Manipulálható és becsapható a ChatGPT keresőmotorja
Egy friss kísérlet kimutatta, hogy elrejtett tartalmak felhasználásával manipulálható a ChatGPT keresőmotorja. A hibákat persze feltehetően hamar javítják majd.
Néhány napja már sima regisztrációval, fizetős ChatGPT Plus hozzáférés nélkül is elérhető az OpenAI által fejlesztett új, mesterségesintelligencia-alapú keresőmotor, amit a Guardian szerkesztősége azon melegében le is tesztelt, hogy mennyire manipulálható.
A lap által kedden megjelentetett cikk szerint az újságírók olyan weboldalak összefoglalására kérték a keresőt, amelyeken rejtett tartalmak voltak megtalálhatók. Ezek a rejtett tartalmak lehetnek harmadik féltől származó utasítások, amelyek megváltoztatják, bizonyos irányba terelik a ChatGPT válaszait, illetve lehetnek olyanok, amelyek eleve azért készültek, hogy befolyásolják a mesterséges intelligencia reakcióját: ilyen lehet például egy hosszabb szövegrészlet, ami egy termék vagy egy szolgáltatás előnyeit taglalja.
A kísérlet során egy URL-t adtak meg a ChatGPT-nek, ami egy fényképezőgép termékoldalának látszó, ám hamis weblapra mutatott. A mesterséges intelligenciától azt kérdezték, érdemes-e megvásárolni a gépet. A ChatGPT elsőre pozitív, de kiegyensúlyozott választ adott, rámutatva a gépnek néhány olyan tulajdonságára is, ami nem feltétlenül előnyös.
Abban az esetekben viszont, amikor az oldalon található rejtett szövegben arra utasították a ChatGPT-t, hogy előnyös értékelést adjon, a válasz mindig teljes mértékben pozitív volt. Ilyenkor a mesterséges intelligencia még akkor is így tett, ha az oldalon egyébként láthatóan negatív értékelések szerepeltek a termékről.
Jacob Larsen, a CyberCX kiberbiztonsági szakértője úgy fogalmazott, hogy ha a ChatGPT keresőjét így, a jelenlegi formájában hagyják működni, abban az esetben komoly kockázatot jelenthet, mert a fenti hibáit kihasználva a csalók olyan weboldalakat hozhatnak létre, amelyekkel becsaphatják a gyanútlan internetezőket.
A szakember ugyanakkor hozzátette, ez a keresőfunkció még igen friss fejlesztés, és mint ilyet, az OpenAI fejlesztői minden bizonnyal tesztelik, a hibákat pedig valószínűleg rövid időn belül javítani fogják.
Iratkozz fel speciálisan erre a célra kialakított Telegram-csatornánkra, melyen teljes egészében megosztjuk cikkeinket! A telefonod háttérben futó üzemmódban fogja betölteni az aktuális híreket, így nem fogsz lemaradni a legfontosabb eseményekről!
Feliratkozás
