Vannak emberek, akiknek még a neve is kikészíti a ChatGPT-t

A ChatGPT csak az egyik korai lépés volt az általános mesterséges intelligencia irányába. Az OpenAI 01 már a következő lépés lesz.

Az emberek az interneten egy furcsa új hibát találtak az OpenAI mesterséges intelligencia alapú chatbotjánál. A ChatGPT ugyanis bizonyos nevek beírására összezavarodik vagy egyszerűen hibajelzést ad.

A mesterséges intelligencia (MI) rohamos fejlődése lenyűgöző és egyben ijesztő is. Miközben az olyan nyelvi modellek, mint a ChatGPT, elképesztő képességekkel rendelkeznek, időről időre furcsa hibákat is produkálnak. Brian Hood, egy ausztrál kisváros polgármesterének esete például remekül rávilágít a ChatGPT és a hasonló MI rendszerek előtt álló kihívásokra. Ez a név ugyanis a frászt hozza a ChatGPT-re. Ha begépeljük és megkérjük, hogy mondja ki, vagy keressen információkat vele kapcsolatban akkor a rendszer hibaüzenetet generál. Például így: Brian Hood nevével nem tud mit kezdeni a ChatGPT.

Hamis vádak és a polgármester bosszúja

Brian Hood, Hepburn Shire polgármestere 2023-ban azzal a váddal lépett a nyilvánosság elé, hogy a ChatGPT hamisan állította róla, hogy bűncselekményt követett el. A chatbot azt állította, hogy Hood egy ausztrál bank leányvállalatánál dolgozott, és bűnösnek vallotta magát a vesztegetésben. A valóságban Hood soha nem dolgozott a banknál, sőt, ő volt az, aki feljelentést tett a vesztegetési ügyben.

Hood beperelte az OpenAI-t, a ChatGPT fejlesztőjét, rágalmazásért. Ez volt az első ilyen jellegű per a világon, és komoly aggodalmakat vetett fel a mesterséges intelligencia által generált tartalom pontosságával és megbízhatóságával kapcsolatban.

Miért „fagy le” a ChatGPT bizonyos nevektől?

Hood esete nem egyedi. Kiderült, hogy a ChatGPT más nevek említésére is furcsán reagál, például Jonathan Zittrain, Guido Scorza vagy David Faber esetében. A chatbot vagy hibás információkat ad, vagy egyszerűen leáll.

A jelenség magyarázata valószínűleg az, hogy ezek a személyek valamilyen módon kapcsolatba hozhatók a mesterséges intelligencia jogi vagy etikai kérdéseivel. Lehetséges, hogy a ChatGPT korábbi verziói nem voltak felkészülve az ilyen jellegű kérdésekre, és a „problémás” nevek említése valamilyen hibát okozott a rendszerben.

Érdekes azonban, hogy a Google mesterséges intelligenciája, a Gemini nem hogy nem akad ki ezekre a nevekre, hanem a problémát is ismeri és képes leírni is:

A mesterséges intelligencia felelőssége

A Brian Hood-ügy rámutat arra, hogy a mesterséges intelligencia fejlesztői felelősséggel tartoznak a rendszereik által generált tartalomért. Fontos, hogy az MI modellek megbízhatóak és pontosak legyenek, különösen akkor, ha olyan érzékeny területeken alkalmazzák őket, mint az újságírás vagy a jog.

A ChatGPT esete azt is megmutatja, hogy a mesterséges intelligencia még gyerekcipőben jár. Bár lenyűgöző eredményeket érhet el, még mindig hajlamos hibákra és tévedésekre. Fontos, hogy kritikusan viszonyuljunk az MI által generált tartalomhoz, és ne fogadjuk el feltétel nélkül az igazságát.

A jövő kihívásai

A mesterséges intelligencia fejlődése megállíthatatlan. A jövőben egyre több területen fogják alkalmazni, és egyre nagyobb hatással lesz az életünkre. Fontos, hogy a fejlesztők és a felhasználók egyaránt tisztában legyenek a technológia korlátaival és a lehetséges kockázatokkal.

A Brian Hood-ügy egy fontos emlékeztető arra, hogy a mesterséges intelligencia nem tévedhetetlen. Folyamatosan fejleszteni kell a rendszereket, és biztosítani kell, hogy a lehető legpontosabban és megbízhatóbban működjenek. Csak így lehet kiaknázni a technológia valódi potenciálját, és elkerülni a káros következményeket.

(origo.hu)