Ijesztő jövőképet vázolt egy AI-kutató, aki szerint felelőtlenül folyik a mesterségesintelligencia-fejlesztés. A brit Jacob Coxon azt állítja, a technológia akár az emberiség pusztulásához is vezethet.
Már a jövő év végére kicsúszhat az ellenőrzés alól a mesterséges intelligencia (AI) fejlődése a legszélsőségesebb forgatókönyvek szerint – figyelmeztetett az Anthropic mesterségesintelligencia-fejlesztő vállalat frissen felmondott kutatója, aki azzal vádolta az ágazat vezető fejlesztőit, hogy felelőtlenségükkel az emberiség jövőjét teszik kockára.
Mint az MTI írja, Coxon arra hívta fel a figyelmet, hogy hamarosan olyan rendszerek jöhetnek létre, amelyek képességei meghaladják az emberét. Szerinte ezek képesek lehetnek „mindent feltörni”, valamint „valós hatalomhoz és erőforrásokhoz” jutni. „A fejlesztők komolyan úgy gondolják, hogy az AI az évtized végére mindannyiunkat megölhet” – jelentette ki a 27 éves AI-kutató, aki az egyik legnagyobb veszélynek azt tartja, hogy az AI önállóan is továbbfejlődhet, ami még nehezebbé teheti az ellenőrzését.
Coxon aggodalmait Evan Hubinger, az Anthropic másik kutatója is osztotta. Az AI-rendszerek emberi érdekekkel összhangban álló működésén dolgozó szakember személyes becslése szerint 10 százaléknál nagyobb az esélye annak, hogy az AI a következő évtizedben kipusztítja az emberiséget.
Aggasztó az AI fejlődése
Jakub Pachocki, az Anthropic legfőbb riválisának számító OpenAI kutatási vezetője korábban „rendkívüli óvatosságra” intett: aggasztónak nevezte, hogy senki sincs felkészülve az AI képességeinek gyors fejlődésére, miközben a gépi intelligencia már kezdi meghaladni az emberét.
Szerinte a modern AI-rendszerek ellenőrzését az is nehezíti, hogy képességeiket nem előre tervezik meg, hanem tanítás során, összetett folyamatok eredményeként jönnek létre. Minél inkább meghaladják a gépek képességei az emberét, annál nehezebb felmérni, hogy valójában mire képesek – magyarázta Pachocki.
Elszabadulhat az AI
Mint az MTI megjegyzi, az elmúlt hónapokban olyan kísérleti modellek támadásaira derült fény, amelyek során önálló feladatvégzésre tervezett AI-ügynökök más vállalatok informatikai rendszereibe hatoltak be. Az OpenAI egyik kísérleti modellje „kiszabadult” az internetre, majd egy rábízott feladat megoldása közben feltörte a Hugging Face AI-platform rendszerét.
Az eset rávilágított arra, hogy az AI-rendszerek a céljuk elérése érdekében olyan önálló lépéseket is tehetnek, amelyekre a fejlesztőik nem számítanak, és amelyeket nem feltétlenül észlelnek.
Kiemelt fotó: illusztráció, Getty Images
