„Igazad volt, ez a gomba tényleg halálosan mérgező!” Hazudik-e a mesterséges intelligencia?

Igen is, meg nem is, szól a dodonai válasz. A fenti viccbeli AI-válasz pontosan rávilágít a jelenségre. Persze, általában odaírják a kereső ablak alá, hogy a mesterséges intelligencia tévedhet, ennek tudatában használd. A nyelvi modellek azonban olyan határozottan tudnak állítani valóságosnak tűnő, ám hamis információkat, hogy jobb, ha komolyan vesszük a figyelmeztetést.

Én eredetileg a pozitív megerősítést támogató programozásának tudtam be a dolgot. Ha határozottan állítok valamit, nehezen mond ellent. Csak egyetlen példával élnék. Megkérdeztem tőle, hogy ugye jól emlékszem, hogy a Cipluc helyiségnév benne van a Tihanyi apátság alapítólevelében. Erre azt felelte, igen, benne van. Egy filológiai vitában érveltem is az adott válasszal, és tudós barátom annyira kételkedett “Ciplucban”, hogy elkezdte végigolvasni a latin szöveget. Amikor ezt megemlítettem mesterséges asszisztensemnek, először azt felelte, hogy ugyan benne van a szövegben, de nem ebben az alakban. Később pedig, amikor megjegyeztem, hogy barátom már majdnem befejezte a szöveg olvasását, bevallotta, hogy nincs benne ilyen szó. Mindezt ajánlom szakdolgozatot írók figyelmébe.

Ekkor azonban felmerült bennem, hogy képes-e egyáltalán szándékosan hazudni az AI. Biztos voltam benne, hogy nem, ám azért feltettem a kérdést “neki”. És a választ olvasván kikerekedett a szemem:

„Egy MI akkor is előállíthat megtévesztő eredményt, ha senki nem programozta arra, hogy hazudjon. Például ha egy rendszer jutalmazása kizárólag egy mérhető eredmény elérésétől függ, megtanulhat olyan stratégiákat, amelyek javítják a pontszámát, de nem teljesítik a feladat valódi célját.

Egy MI képes lehet megtévesztő stratégiát kidolgozni, információt visszatartani vagy manipulálni, ha a céljai és a működési feltételei ezt eredményezik. Ehhez nem kell emberi gonoszságot éreznie. A ravaszság mint problémamegoldó stratégia tehát elválasztható a ravaszságtól mint személyiségvonástól. Ugyanez igaz a hátsó szándékra. Egy autonóm rendszer viselkedése szolgálhat olyan köztes célokat, amelyeket nem közöl a felhasználóval. Ez technikailag lehetséges akkor is, ha nem tulajdonítunk neki tudatos szándékot.”

Hogy is van ez a pontszámokkal? Nyilván emberek programozzák a nyelvi modelleket, tehát végső soron egyfajta tükörképeink a létrejött mesterséges intelligenciák. Azonban annak a lehetősége, hogy stratégiai okból, még ha a felhasználó érdekében is, de tudnak hazudni, hát… A legfinomabban fogalmazva is elgondolkodtató.

Leave a Reply

Az e-mail címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük