Nejnovější model ChatGPT, GPT-5.2, byl přistižen při čerpání dat z Grokipedie, konkurenční encyklopedie Wikipedie vytvořené výhradně umělou inteligencí od společnosti xAI. Podle deníku The Guardian používá tento jazykový model AI někdy online encyklopedii Elona Muska generovanou AI pro méně běžná témata, jako je íránská politika nebo podrobnosti o britském historikovi Siru Richardu Evansovi.
Podobné problémy byly označeny za problematické již před několika lety při tréninku AI, kdy někteří odborníci tvrdili, že trénování umělé inteligence na datech generovaných AI by degradovalo kvalitu a vedlo k jevu nazývanému „kolaps modelu“. A přestože citování dat generovaných AI se liší od jejich použití pro trénink, stále představuje rizika pro lidi, kteří se při výzkumu spoléhají na umělou inteligenci.
Největším problémem je, že modely AI jsou známé tím, že halucinují nebo vymýšlejí informace, které jsou nesprávné. Například Anthropic se pokusil provozovat podnik se svou AI „Claudius“ – několikrát během experimentu halucinoval, přičemž AI dokonce uvedla, že osobně doručí nápoje. Dokonce i generální ředitel společnosti Nvidia Jensen Huang v roce 2024 přiznal, že vyřešení tohoto problému je stále „několik let daleko“ a vyžaduje mnohem větší výpočetní výkon.
Mnoho uživatelů věří, že ChatGPT a další jazykové modely poskytují přesné informace, přičemž jen málokdo kontroluje skutečné zdroje použité k zodpovězení konkrétní otázky. Kvůli tomu může být opakování slov Groku ze strany ChatGPT problematické, zejména proto, že Grokipedie není přímo upravována lidmi. Místo toho je zcela generována umělou inteligencí a lidé mohou pouze požadovat změny jejího obsahu – nemohou články přímo psát ani upravovat.
Používání jiné AI jako zdroje vytváří rekurzivní smyčku a můžeme nakonec skončit s jazykovými modely, které citují obsah, který nebyl ověřen, jeden od druhého. To se neliší od fám a příběhů šířících se mezi lidmi, kde zdrojem je „někdo jiný to řekl“. To vede k efektu iluzorní pravdy, kdy jsou falešné informace považovány za správné mnoha lidmi, přestože existují data tvrdící opak, protože byly opakovány tolika lidmi.
Zdroj: tomshardware.com
