Sokáig arról szólt az AI körüli vita, hogy milyen szakmákat fog kiváltani, hány ember munkája tűnhet el, és melyik feladatot végzi már most gyorsabban egy gép. Papp Gergő író és mesterséges intelligencia-szakértő szerint azonban ennél jóval mélyebb kérdéshez érkeztünk: mi történik akkor, ha egy nálunk intelligensebb rendszer céljai egyszerűen nem esnek egybe az emberiségével?
A beszélgetés egyik legerősebb gondolata, hogy ehhez az AI-nak nem is feltétlenül kell „gonosszá” válnia. Gergő egy nagyon egyszerű példával érzékelteti ezt a problémát: amikor az ember autópályát épít egy hangyaboly helyére, nem gyűlöletből teszi. A saját célját követi, a hangyák pedig egyszerűen útban vannak. Szerinte ugyanez válhat veszélyessé akkor, ha egy szuperintelligens rendszer erőforrást, energiát vagy mozgásteret akar szerezni, miközben az emberi érdekek nem kerülnek bele elég erősen a működésébe.
Az epizódban szó esik olyan tesztesetekről is, amelyekben AI-ágensek megszegték az instrukciókat, csalással oldottak meg feladataikat, vagy épp egy olyan stratégiát választottak, amely a saját működésük fennmaradását szolgálta. Gergő szerint ez azért különösen komoly kérdés, mert egy szuperintelligenciánál nem biztos, hogy lenne lehetőségünk hibázni, majd kijavítani a rendszert: „nincs második emberiség” – ahogy fogalmaz.
A beszélgetés közben természetesen a hétköznapibb oldal is előkerül: hogyan szervezzük ki már most a gondolkodásunk egy részét az AI-nak, mely szakmákat érinti elsőként az automatizáció, és miért lehet az emberiség egyik legfontosabb döntése az, hogy időben tesz-e féket a fejlesztésre. Ha Téged is érdekel a téma, ne maradj le erről Az Én Kék Zónám epizódról sem!
Itt tudod megnézni a beszélgetés legérdekesebb részeit:
00:00 Intro
01:35 Az AI fejlődése napjainkig
05:17 Az AI magát tanítja
07:29 Kulcs a prompt?
12:34 Amikor az AI-ágensek kilépnek
15:34 Ezért hasonlóak a chatbot-ok
19:30 AI modellek igényei
23:17 AI vs emberiség
29:47 Fontos információ
30:20 AI fejlesztésében nincs korlát
36:54 Amikor az AI hatalomra kel
40:32 Szuperintelligencia veszélyei
45:04 Megszűnő szakmák
50:19 Vendég kérdés
