1. Fogalom magyarul: hallucináció (az MI-ben)

2. Fogalom angolul: hallucination

3. Meghatározás:

A hallucináció az MI-ben azt jelenti, hogy a mesterséges intelligencia hamis vagy pontatlan információkat, válaszokat, illetve adatokat generál, amelyek valószínűnek tűnnek, de nincs valóságalapjuk és nem szerepeltek a tanítási adatokban. Ez a jelenség különösen gyakori a nagy nyelvi modellekben és a generatív mesterséges intelligencia rendszerekben. Különféle módon nyilvánulhat meg, a finom ténybeli hibáktól a teljesen kitalált információkig vagy eseményekig. Hallucináció akkor fordul elő, amikor a modellek megpróbálják fenntartani a koherenciát, miközben bizonytalansággal vagy tudásbeli hiányosságokkal szembesülnek. Például egy nagy nyelvi modell "hallucinálhat", amikor nem létező tényeket állít vagy fiktív eseményekre hivatkozik, amelyek nem szerepeltek az eredeti tanítási adathalmazban. A hallucináció csökkentése érdekében a kutatók különböző technikákat fejlesztenek, például jobb adattisztítási módszereket és szigorúbb modellvalidációs folyamatokat. Emellett a finomhangolás és a gyakori ellenőrzés is segíthet minimalizálni a hamis információk előfordulását.

4. Hivatkozások:

• Ji, Ziwei, et al. "Survey of Hallucination in Natural Language Generation." arXiv preprint arXiv:2107.07158 (2021).

5. Megjegyzések:

6. Kulcsszavak:

mesterséges intelligencia, gépi tanulás