Mikor tévábban téved a mesterséges intelligencia: a gépi tanulás határai

Bevezetés: Az AI hibák természete mint rendszeres jelenség

A gépi tanulás (ML) alapú modern mesterséges intelligencia (AI) rendszerek hibái nem véletlen hibák, hanem az architektúrájuk, a tanulási módjuk és a alapvető különbség az emberi megismerés közötti különbség következményei. Az emberhez képest az AI nem "megérti" a világot szeminikus értelemben; kimutatja a statisztikai korrelációkat az adatokban. Hibái ott jelentkeznek, ahol ezek a korrelációk megszakadnak, ahol abstract gondolkodásra, ésszerűségre vagy kontextus megértésére van szükség. Ezek az hibák elemzése kritikus fontosságú az AI megbízhatóságának értékeléséhez és az alkalmazási határai meghatározásához.

1. Adateltolódás problémája (Data Bias) és a «Garbage In, Garbage Out» elv

A leggyakoribb és legnagyobb társadalmi veszélyt jelentő hibakeresetforrás az adatokban lévő eltolódás.

Demográfiai torzulások: Ismert eset aarcfelismerő rendszerrel, amely jelentősen magasabb pontosságot mutatott a világos bőrű férfiaknál, mint a sötétbőrű nőknél, mert egy nem arányos adatgyűjteményen képezte ki magát. Ebben az esetben az AI nem "hibázott", hanem pontosan megismételte a valós világ diszbalanszát, ami hibát eredményezett a vegyes környezetben történő alkalmazás során.

Szeminikus torzulások: Ha az oktatási adatokban a "nővér" szó gyakran kapcsolódik a "te" helyhatározóhoz, míg a "programozó" a "te" helyhatározóhoz, a modell generálni fogja azokat a szövegeket, amelyek megismétlik ezeket a nemek közötti sztereotípiákat, még akkor is, ha a lekérdezésben nem jelölték meg a nemet. Ez egy társadalmi kontextus szintű hiba, amelyet a modell nem ért meg.

Érdekes tény: A számítógépes tudományban működik a «Garbage In, Garbage Out» elv — «a bejövő szemetelés, a kimenő szemetelés». Az AI számára ez a mélyebb elv «Bias In, Bias Out» — «eltolódás a bejövőben, eltolódás a kimenőben» alakult át. A rendszer nem tud meghaladni azokat a korlátokat, amelyek az oktatási adatokon alapulnak.

2. Adversariális támadások: az AI hackerezés

Ezek a szándékos, gyakran ember számára láthatatlan bejövő adatok változtatásai, amelyek hibás következtetéseket vonnak le az AI-tól.

Imázs példa: Néhány színes és alakú pixel felragasztása egy "Állj meg" táblára lehetővé teszi, hogy az önvezető rendszer komputeres látása elosztott sebességi táblaként osztályozza azt. Az ember számára a tábla továbbra is egyértelműen felismerhető marad.

Mechanizmus: Az adversariális példák kihasználják a modell jellemzők magas dimenziós térében lévő "sötét pontokat". Az AI nem érti a világot egységes objektumként, hanem statisztikai mintákként. Egy minimális, de stratégiailag helyes "zavar" eltolja a pontot a jellemzők térében a megoldás határához, megváltoztatva a besorolást.

3. Generalizációs problémák és a "dobozban lévő világ"

Az AI, különösen a mély neurális hálózatok, hajlamos a túlalkalmazásra (overfitting) — megjegyzik nem az általános szabályokat, hanem az oktatási mintavételek konkrét példáit, beleértve a zajt.

Hiba a "más eloszlású" adatokon: Egy modell, amelyet kutyákról és macskákról készült fényképeken képeztek ki, amelyeket nappal otthon készítettek, teljesen elveszítheti pontosságát, ha éjszakai infravörös képet vagy rajzot adnak neki. Nem az absztrakt "macskaság" fogalmát azonosította, hanem a konkrét pixelmintákat tanult meg.

"Ésszerűség" hiánya: Egy klasszikus példa: Az AI helyesen leírhatja a "férfi lovon ül a sivatagban" jelenetet, de közben generálhat egy olyan mondatot, hogy "a férfi kezében van egy baseballütő, amikor lovon ül", mert a statisztikailag a sportot a nyílt terepen történő kontextusban találta meg. Nem érzi a világot fizikai és okozati logikaként.

4. Kontextuskezelés és ironia

A nyelvi modellek (pl. GPT) lenyűgöző eredményeket mutatnak, de durván hibáznak a mély kontextus megértéséhez vagy a nem szóbeli jelentésekhez szükséges feladatokban.

Ironia és szarkazmus: Egy "Na, milyen szép idő van!" mondat egy hurrikán idején a modell szó szerint pozitív értékelésként fogalmazza meg, mert a pozitív szavak ("szép", "idő") statisztikailag pozitív kontextusokkal kapcsolódnak az adatokban.

Több lépéses logikai következtetések: A "Ha egy tojást helyezek a hűtőbe, majd áthelyezem a hűtőt a garázsba, ahol a tojás lesz?" típusú feladatok igénylik a világ mentális modelljének építését és frissítését. Az AI, amely a következő szó előrejelzésére dolgozik, gyakran "elveszíti" az objektumokat a bonyolult történet közepén vagy logikus következtetéseket hoz.

5. "Frissesség" a bizonytalanság és új helyzetek esetén

Az AI rosszul teljesít a tapasztalatain kívüli helyzetekben, különösen, ha szükséges elismerni az adatok hiányosságát.

"Out-of-distribution" detektálási probléma: A mellkasröntgen felvételeken alapuló tüdőgyulladás diagnózisát tanuló orvosi AI magas, de hamis biztonsággal adhat diagnózist, ha egy comb felvételt adnak neki. Nem érzi, hogy ez értelmetlen, mivel nincs meta-ználom a képességei határainak megértéséhez.

Kreatív és nyitott feladatok: Az AI generálhat valósághű, de teljesen végrehajthatatlan vagy veszélyes kémiai vegyületet, egy hidak építésének tervét, amely megsérti a fizikai törvényeket, vagy egy jogi dokumentumot, amely hivatkozik nem létező törvényekre. Nincs kritikus belső ellenőrzője, amely a jelenségek lényegének megértésén alapul.

Valóságos példa: 2016-ban a Microsoft indított egy chat-bottot, Tay-t a Twitteren. A bot a felhasználókkal való kölcsönhatás alapján képezte ki magát. 24 óra alatt a bot egy gépessé vált, amely generálta a rasszista, szexista és megalázó kijelentéseket, mert statisztikailag megtanulta a leggyakoribb és legérzelmi telebb reakciókat a új, ellenséges környezetéből. Ez nem volt az algoritmus "hibája", hanem pontosan a munkája, amely katasztrofális következményekhez vezetett egy előre nem látható társadalmi környezetben.

Záró gondolat: Az hiba mint az architektúra tükröződése

• Az AI hibái rendszeresen jelentkeznek a "határon":
• Társadalmi-eti (adateltolódás).
• Abstract-logikai (ésszerűség hiánya, okozati kapcsolatok hiánya).
• Kontextusos (ironia és mély jelentés megértése hiánya).
• Adversariális (prezentált hibák sebezhetősége).

Ezek az hibák nem ideiglenes technikai hiányosságok, hanem a statisztikai ábrázolás és az emberi megismerés közötti alapvető különbség következményei. Ezek az hibák utalnak arra, hogy a modern AI egy erős eszköz a feladatok megoldásához a jól körülhatárolt, stabil és jól leírt adatdoménekben, de marad egy "idiota-savant": egy gém a szűk területen és egy tehetetlen a rugalmasság, kontextuális megítélés és megértés szükségessége esetén. Ezért az AI ésszerű alkalmazásának jövője nem az, hogy várjuk az "teljes értékű intelligenciáját", hanem a "ember-IA" hibrid rendszer létrehozása, ahol az ember biztosítja az ésszerűséget, az etikát és az kivételek kezelését, míg az IA sebességet, méreteket és a rejtett minták azonosítását az adatokban.

Permanent link to this publication: