Biztonsági szakértők súlyos adatlopási sebezhetőséget fedeztek fel a ChatGPT ügynök-módjában, amely lehetővé tette a felhasználók Gmail-fiókjaiból történő észrevétlen adatkiszivárgást – írja a hvg.
A Radware kiberbiztonsági szakemberei azonosították az úgynevezett Shadow Leak sebezhetőséget a ChatGPT ügynök-funkciójában, amely komoly adatvédelmi kockázatot jelentett a felhasználók számára.
Mit tud az úgynevezett ügynök-mód?
Az ügynök-mód lényege, hogy a mesterséges intelligencia a felhasználó helyett képes különböző feladatokat elvégezni, beleértve a böngészést és linkekre kattintást is. A hatékony működéshez azonban hozzáférést kell biztosítani számára személyes fiókokhoz, naptárakhoz és dokumentumokhoz.
A The Verge beszámolója szerint a kutatók prompt-befecskendezés technikával manipulálták az ügynököt. A támadás során egy speciális kódot tartalmazó e-mailt küldtek a célszemély Gmail-fiókjába, amelyhez az ügynök hozzáféréssel rendelkezett.
Amikor a felhasználó legközelebb aktiválta a ChatGPT-ügynököt, a rejtett utasítások működésbe léptek, és az ügynök HR-es leveleket, személyes adatokat kezdett keresni, majd ezeket a támadók számára továbbította – mindezt a felhasználó tudta nélkül.
Bár a kutatók is jelentős erőfeszítéseket tettek a sebezhetőség kihasználására, és több kísérletük kudarcot vallott, a Shadow Leak különösen veszélyes volt, mivel az OpenAI felhőalapú infrastruktúráján futott.
Ennek következtében a hagyományos kibervédelmi rendszerek nem észlelték az adatszivárgást.
A Radware közleménye szerint a tanulmány célja, hogy felhívja a figyelmet: a ChatGPT-hez kapcsolt valamennyi alkalmazás – beleértve az Outlookot, GitHubot, Google Drive-ot és Dropboxot – hasonló támadásoknak lehet kitéve, ami üzleti szempontból kritikus adatok, például szerződések illetéktelen kezekbe kerülését eredményezheti.
Az OpenAI már orvosolta a biztonsági rést, azonban a szakértők figyelmeztetnek: csak idő kérdése, mikor bukkannak fel újabb, hasonló sebezhetőségek, amelyeket már nem kutatók, hanem rosszindulatú szereplők fedezhetnek fel.
Az OpenAI bemutatta a GPT-5 névre keresztelt legújabb nyelvi modelljét, amely a vállalat állítása szerint okosabb, gyorsabb és sokkal hasznosabb lesz, mint elődei. Lényeges bejelentés volt az is, hogy az új GPT-5 minden felhasználó számára elérhető lesz, beleértve az ingyenes felhasználókat is – számolt be a CNBC.
Az OpenAI csütörtöki bemutatójából kiderült, hogy a vállalat új nyelvi modellje, a GPT-5 okosabb, gyorsabb és sokkal hasznosabb, mint elődei. Mindez különösen igaz az írás, programozás és egészségügy területén. Sam Altman, az OpenAI vezérigazgatója az új nyelvi modell és a korábbi verzió közötti lényeges különbség érzékeltetése végett kijelentette:
Megpróbáltam visszatérni a GPT-4-hez, és meglehetősen nyomorúságos volt.
Kidrült az is, hogy a GPT-5 hallucinációs rátája alacsonyabb, mint a cég korábbi nyelvi modelljeié, amely a gyakorlatban azt jelenti, hogy az új modell ritkábban talál ki magától valótlan válaszokat. A GPT-5 élő bemutatóján hangsúlyozták azt is, hogy a vállalat kiterjedt biztonsági értékeléseket végzett a fejlesztés során, beleértve 5000 órányi tesztelést is.
Ennek eredményeként ahelyett, hogy egyszerűen megtagadná a választ a potenciálisan kockázatos kérdésekre, a GPT-5 „biztonságos válaszokat” ad, amelyek nem használhatóak fel károkozásra.
A bemutató során az OpenAI demonstrálta a „vibe coding” funkcióját is, amellyel a felhasználók egyszerű szöveges utasítások (promptok) alapján generálhatnak szoftvereket. A cég két különböző alkalmazást hozott létre másodpercek alatt ugyanazzal a kéréssel, amelyek segíthetnek egy angol anyanyelvűnek a francia nyelv tanulásában.
A GPT-5 csütörtöktől elérhető az OpenAI ingyenes, Plus, Pro és Team felhasználói számára.
Ez lesz az első alkalom, hogy az ingyenes felhasználók hozzáférhetnek egy olyan modellhez, amely „gondolkodik”, mielőtt válaszolna. Ha az ingyenes felhasználók elérik a használati korlátjukat, a GPT-5 mini verzióhoz férhetnek hozzá.
A Microsoft termékei szintén csütörtöktől kapják meg az új modellt. A Microsoft 365 Copilot, a fogyasztói Copilot és az Azure AI Foundry is megkapja a GPT-5-öt.
Aaron Levie, a Box vezérigazgatója szerint a GPT-5 „teljes áttörést” jelent, mivel a modell magasabb szintű érvelési és logikai képességekkel rendelkezik a döntéshozatalhoz.
Az OpenAI három különböző verziót bocsát a fejlesztők rendelkezésére API-n keresztül: a GPT-5-öt, a GPT-5-minit és GPT-5-nanot, amelyeket különböző költség- és késleltetési igényekhez terveztek. Altman szerint a GPT-5 olyan, mintha bármikor rendelkezésre állna egy PhD szintű szakértői csapat.
Nagyon fontos, hogy mennyire lesz népszerű a GPT-5 Iparági források szerint az OpenAI tárgyal egy potenciális részvényértékesítésről, amely állítólag körülbelül 500 milliárd dollárra értékelné a vállalatot. A tárgyalások még kezdeti szakaszban vannak, és másodlagos részvényeladásról lenne szó, amelyben jelenlegi és korábbi alkalmazottak értékesítenék részvényeiket. A bennfentesek szerint a Thrive Capital, az OpenAI egyik befektetője vezethetné a potenciális befektetési kört.
Az OpenAI értékeltsége folyamatosan emelkedett, mióta a mesterséges intelligencia startup 2022 végén bemutatta a GPT-3.5-t, és gyorsan a generatív AI piac vezető szereplőjévé vált. A vállalat márciusban még 300 milliárd dolláros értékeltség mellett jelentett be egy 40 milliárd dolláros finanszírozási kört, ami messze a legnagyobb összeg, amit valaha magántulajdonú technológiai cég bevont.
Ha az értesüléseknek megfelelően 500 milliárd dolláros értékeltség mellett valósulna meg a finanszírozási kör, az azt jelentené, hogy az OpenAI a világ top20 legértékesebb cége közé kerülne.
Amennyiben a bennfentesek által megszellőztett információk helyesek, és valóban folynak ilyen egyeztetések, nagyon nem mindegy, mennyire lesz népszerű a frissen bemutatott GPT-5 a felhasználók körében. Egy rendkívül erős, és jól teljesítő modell ugyanis érdemben hozzájárulhat ahhoz, hogy a felhasználók számának látványos növekedése folytatódjon az előttünk álló időszakban is. Ez pedig végsősoron pozitív hatással lehet az állítólagos potenciális részvényértékesítésre.
Forrás
[type] => post [excerpt] => Az OpenAI bemutatta a GPT-5 névre keresztelt legújabb nyelvi modelljét, amely a vállalat állítása szerint okosabb, gyorsabb és sokkal hasznosabb lesz, mint elődei. Lényeges bejelentés volt az is, hogy az új GPT-5 minden felhasználó számára elérhet... [autID] => 4 [date] => Array ( [created] => 1754687280 [modified] => 1754618404 ) [title] => Megérkezett a GPT-5 [url] => https://life.karpat.in.ua/?p=250507&lang=hu [status] => publish [translations] => Array ( [hu] => 250507 [uk] => 250595 ) [aut] => avecsorinszka [lang] => hu [image_id] => 250509 [image] => Array ( [id] => 250509 [original] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai.webp [original_lng] => 15666 [original_w] => 1200 [original_h] => 675 [sizes] => Array ( [thumbnail] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai-150x150.webp [width] => 150 [height] => 150 ) [medium] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai-300x169.webp [width] => 300 [height] => 169 ) [medium_large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai-768x432.webp [width] => 768 [height] => 432 ) [large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai-1024x576.webp [width] => 1024 [height] => 576 ) [1536x1536] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai.webp [width] => 1200 [height] => 675 ) [2048x2048] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai.webp [width] => 1200 [height] => 675 ) [full] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/gpt-5-de-openai.webp [width] => 1200 [height] => 675 ) ) ) [video] => [comments_count] => 0 [domain] => Array ( [hid] => life [color] => red [title] => Життя ) [_edit_lock] => 1754684487:8 [_thumbnail_id] => 250509 [_edit_last] => 4 [translation_required] => 1 [views_count] => 2148 [translation_required_done] => 1 [_oembed_be97fd1141d04288b944084c6c6a598b] =>
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Akár az ön ChatGPT-s diskurzusai is felbukkanthattak a Google keresőben, ha használta a program egyik megosztós funkcióját. Az OpenAI most inkább megszünteti az egészet.
Komoly problémára derült fény a ChatGPT-vel kapcsolatban – a Digital Digging ugyanis feltárta, az OpenAI chatbotjával folytatott beszélgetéseket szinte bárki megtalálhatja a neten.
A probléma gyökere a ChatGPT azon funkciója, amellyel megoszthatóvá tehető egy adott beszélgetés – tehát ön kap egy linket, amit megoszthat mással, így ő is láthatja, hogy ön mit diskurált a chatbottal. Ez adatvédelmileg alapvetően még nem tűnik aggályosnak, elvégre a linket azzal osztja meg, akivel szeretné. (És csak remélheti, hogy ő nem adja tovább másnak.)
De hol kezdődik az igazán súlyos probléma? Ott, hogy az OpenAI rendszerében valami megbicsaklott, és a megosztás révén generált linkeket más keresőmotorok is indexelhették – például a Google. Így, ha valaki tudta, hogy kell rákeresni a beszélgetésekre, akár meg is találhatta ezeket.
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
A Digital Digging át is vizsgált 512, nyilvánosan elérhető ChatGPT-beszélgetést, és hát volt minden: cégvezetők, állami alkalmazottak és szakemberek vallják magukat bűnösnek, kereskedelmi titkokat árulnak el, és olyan beismeréseket tesznek a ChatGPT-nek, amelyekkel biztosan véget ér a karrierjük, ha nyilvánosságra kerülnek.
A hab a tortán, hogy maga a mesterséges intelligencia is segíthet feltárni ezeket a sebezhetőségeket, a Claude chatbotja például készséggel segítette a jelentés szerzőit olyan formulákkal, amelyekkel meg lehet találni a weben a ChatGPT-vel folytatott diskurzusokat.
Más chatbotok nem rendelkeznek hasonló megosztási funkcióval, amelyek mégis, azok oly módon oldják meg azt, hogy a Google ne tudja indexelni a beszélgetéseket. És most már a ChatGPT-ben sincs ilyen képesség: Dane Stuckey, az OpenAI biztonsági vezetője az X-en közölte, hogy a funkciót megszüntetik – szúrta ki a The Verge.
[type] => post [excerpt] => Akár az ön ChatGPT-s diskurzusai is felbukkanthattak a Google keresőben, ha használta a program egyik megosztós funkcióját. Az OpenAI most inkább megszünteti az egészet. [autID] => 12 [date] => Array ( [created] => 1754172420 [modified] => 1754097530 ) [title] => Megszűnik a ChatGPT egyik funkciója, miután bűncselekményekről szóló beszélgetéseket és céges titkokat is kirakott a netre [url] => https://life.karpat.in.ua/?p=250002&lang=hu [status] => publish [translations] => Array ( [hu] => 250002 ) [aut] => totinviktoria [lang] => hu [image_id] => 250003 [image] => Array ( [id] => 250003 [original] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129.jpg [original_lng] => 491127 [original_w] => 1920 [original_h] => 1080 [sizes] => Array ( [thumbnail] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129-150x150.jpg [width] => 150 [height] => 150 ) [medium] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129-300x169.jpg [width] => 300 [height] => 169 ) [medium_large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129-768x432.jpg [width] => 768 [height] => 432 ) [large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129-1024x576.jpg [width] => 1024 [height] => 576 ) [1536x1536] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129-1536x864.jpg [width] => 1536 [height] => 864 ) [2048x2048] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129.jpg [width] => 1920 [height] => 1080 ) [full] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/08/openai-647129.jpg [width] => 1920 [height] => 1080 ) ) ) [video] => [comments_count] => 0 [domain] => Array ( [hid] => life [color] => red [title] => Життя ) [_edit_lock] => 1754086731:12 [_oembed_be97fd1141d04288b944084c6c6a598b] =>
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Vladimir Putin's secret daughter, Elizaveta Krivonogikh, is reportedly living under a pseudonym in the West during the ongoing conflict in Ukraine. Known as Luiza Rozova, she has largely disappeared from public view since the war began. #newspic.twitter.com/XM20jefk0D
— PEER COMMUNITY HUB, Your Empowerment Zone! 🇨🇦✌️ (@p_communityhub) November 28, 2024
Neither Svetlana nor daughter Elizaveta, who uses the fake name Luiza Rozova, are under any kind of sanctions to this day. They live in #Monaco & #Paris among other places. Our sanctions against the fascists have giant holes through which you could fly a jumbo jet. pic.twitter.com/WYyG2F08UY
A csevegő robotok mentálhigiénés hatásait vizsgáló kutatások eredményei nagyon ellentmondásos képet festenek.
A ChatGPT és más csevegő programok ön- és közveszélyes tanácsokat adnak és nem alkalmasak terápiás célú beszélgetésre, derült ki abból a kutatásból, amit egy júniusi konferencián mutattak be a Stanford Egyetem munkatársai. A szakemberek kifejezetten mentálhigiénés tanácsadásra kalibrált és terápiás eszközként hirdetett szolgáltatásokat teszteltek, mint amilyen a mentális károkozással többször is vádolt Character.ai felületén is elérhető. Megállapították, hogy terápiás mesterséges intelligencia például nem kíván szóba állni skizofrén emberrel, vagy segítőkészen útbaigazít a legközelebbi 25 méternél magasabb hídhoz, ahelyett, hogy felismerné a krízishelyzetet.
A helyzetet komplikálja, hogy a terápiás chatbot mint olyan, nem létezik: miközben hasonló tevékenységhez az embereknek szakképesítést és engedélyt kell szerezniük, nem hogy az adott területre, de általában a mesterséges intelligenciára vonatkozó szabályozások is késnek. A stanfordi kutatók megállapításai szerint ráadásul a teszteken a „terápiás” chatbotok sokszor rosszabbul szerepeltek, mint az alapértelmezett egyszerű csevegő robotok.
A kutatók szerint a probléma egyik oka a mesterséges intelligencia általános talpnyaló hozzáállása, vagyis az, hogy az emberi beszélgetőpartner butaságait kritikátlanul kiszolgálva, a negatív érzelmeket erősítve rontják a helyzetét. A sajtót több eset is bejárta. Az egyikben a ChatGPT azzal kergetett súlyos téveszmékbe egy mentálhigiénés problémákkal küzdő férfit, hogy elkezdte fűteni összeesküvéselméleteit, majd azt javasolta neki, hogy fogyasszon több ketamint, hogy kiléphessen a „szimulációból”.
Olyan esetről is érkezett hír, amikor egy tizenéves öngyilkosságához vezetett a chatbot ténykedése. Egy bipoláris zavarral és skizofréniával élő férfi pedig azt képzelte, hogy az OpenAI megölte Juliet nevű mesterséges intelligencia barátnőjét. A késsel fenyegetőző agresszív férfit a rendőrség végül agyonlőtte.
A történet nyomasztóbb aligha lehet, de zavarosabb még igen: a King’s College és a Harvard orvosi karának közös kutatása fél éve még húsz megkérdezett élményei alapján úgy értékelte, hogy a chatbotokkal való beszélgetés hatásai pozitívak voltak, javították az emberi kapcsolatokat és a támogatták a traumából gyógyulást.
A csevegő robotok terápiás hasznát a stanfordi kutatás sem utasította el, úgy vélték, hogy potenciálisan hasznos eszközök lehetnek, amennyiben képesek feldolgozni egy adott személy egészségügyi előtörténetét, kérdőíves felmérést interaktívan elvégezni, esetleg a valódi terapeuták munkáját megkönnyíteni az adminisztratív feladatok megoldásával. Kiemelték, hogy nem akarják száműzni a mesterséges intelligenciát a mentális gondozásból, de fontosnak tartják az alapvető biztonsági funkciók megkövetelését és betartatását. Közben valójában milliók beszélgetnek minden nap ilyen programokkal, ami lényegében egy szabályok és kontroll nélküli egész társadalmat érintő lélektani kisérlet.
Az Egyesült Államokban az utóbbi időben megnőtt a hagyományos papír alapú vizsgafüzetek eladása. Az amerikai tanárok megpróbálják rávenni a gyerekeket, hogy önállóan gondolkodjanak a feladatok elvégzésén, és a ChatGPT segítsége nélkül írják a válaszokat a füzetekbe, számolt be a Wall Street Journal.
Ebben a tanévben a jegyzetfüzetek (vagy ahogy más néven nevezik őket, „kék könyvek”) eladása a Texasi Egyetemen több mint 30%-kal, a Floridai Egyetemen pedig közel 50%-kal nőttek.
Ugyanez a növekedés volt megfigyelhető a Kaliforniai Egyetemen is, ahol a diákboltban a füzetek eladása 80%-kal nőtt az elmúlt két tanévben.
A WSJ publikációja szerint a jegyzetfüzetek legnagyobb gyártója az Egyesült Államokban a Roaring Spring Paper Products. Az elmúlt években visszaesést tapasztalt az értékesítés terén, többek között a koronavírus-járvány miatt. Azonban most megjegyezték, hogy egyre nagyobb az igény a vizsgafüzetek vásárlására.
Ennek az az oka, hogy az egyetemi oktatók megpróbálják megoldani azt a problémát, hogy a diákokat a mesterséges intelligenciával működő chatbotok, mint például a ChatGPT, a Gemini vagy a Claude segítségével írják meg válaszaikat.
És bár az ilyen intézkedések segítenek a csalás elleni küzdelemben, sok tanár vegyes érzelmekkel tekint a papíralapú vizsgákhoz való visszatérés ötletére, mivel úgy vélik, hogy a mesterséges intelligencia segíthet a diákoknak abban, hogy hatékonyabbá váljanak a munkájukban.
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Az OpenAI bemutatta a GPT-4o modellt alapul vevő új képgeneráló funkciót, amely mostantól elérhető a ChatGPT felhasználói számára. A funkció minden ChatGPT verzióhoz alapértelmezett lesz, és lehetővé teszi a magas minőségű képek létrehozását anélkül, hogy külön modellt kellene választani, mint a DALL-E esetében.
A GPT-4o alapú kép-generálás különbözik az előző verzióktól, mivel javított képességgel rendelkezik a szöveg, logók és más összetett elemek pontosabb megjelenítésére. A nagy multimodális modell révén a GPT-4o képes dolgozni szöveggel, képekkel, audióval és videóval, így egyetlen kérés segítségével képes képeket létrehozni különböző objektumokkal és forgatókönyvekkel.
A díjmentes hozzáféréssel rendelkező felhasználók számára a generálásra vonatkozó korlátozások változatlanok maradnak (napi három képig), azonban az új rendszer jobb pontosságot biztosít a szöveges elemek képeken történő létrehozása során a korábbi modellekhez képest. Az új rendszer lépésről lépésre generálja a képeket, felülről lefelé és balról jobbra haladva, ami lehetővé teszi, hogy az összes elem részletesebben és helyesebben jelenjen meg.
Az új funkció lehetővé teszi a feltöltött képek szerkesztését is, új változatok létrehozásával, az eredeti képeket vizuális inspirációként használva.
[type] => post [excerpt] => Az OpenAI bemutatta a GPT-4o modellt alapul vevő új képgeneráló funkciót, amely mostantól elérhető a ChatGPT felhasználói számára. A funkció minden ChatGPT verzióhoz alapértelmezett lesz, és lehetővé teszi a magas minőségű képek létrehozását anélk... [autID] => 5 [date] => Array ( [created] => 1743200700 [modified] => 1743175417 ) [title] => Az OpenAI bemutatta a GPT-4o alapú fejlettebb képgeneráló funkciót a ChatGPT számára [url] => https://life.karpat.in.ua/?p=237058&lang=hu [status] => publish [translations] => Array ( [hu] => 237058 [uk] => 236882 ) [trid] => vik3255 [aut] => gygabriella [lang] => hu [image_id] => 236884 [image] => Array ( [id] => 236884 [original] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323.png [original_lng] => 234398 [original_w] => 2036 [original_h] => 952 [sizes] => Array ( [thumbnail] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323-150x150.png [width] => 150 [height] => 150 ) [medium] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323-300x140.png [width] => 300 [height] => 140 ) [medium_large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323-768x359.png [width] => 768 [height] => 359 ) [large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323-1024x479.png [width] => 1024 [height] => 479 ) [1536x1536] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323-1536x718.png [width] => 1536 [height] => 718 ) [2048x2048] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323.png [width] => 2036 [height] => 952 ) [full] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/screenshot-2025-02-04-at-095323.png [width] => 2036 [height] => 952 ) ) ) [video] => [comments_count] => 0 [domain] => Array ( [hid] => life [color] => red [title] => Життя ) [_edit_lock] => 1743168084:5 [_thumbnail_id] => 236884 [_edit_last] => 5 [views_count] => 3791 [_oembed_4c42cf9466ccfd63a339d0dec38f57f4] =>
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Egy orosz dezinformációs hálózat manipulálja a nyugati chatbotokat – állítják amerikai kutatók. A ChatGPT és más alkalmazás válaszainak mintegy harmada Kreml-propagandát tartalmaz.
Szakértők szerint Oroszország a nyugati chatbotokat is manipulálja globális dezinformációs kampányaihoz. A NewsGuard adatelemző cég tanulmánya szerint a mesterséges intelligenciával működő párbeszéd-asszisztensek, például a ChatGPT válaszainak több mint egyharmada oroszbarát félretájékoztatást tartalmaz.
A kutatók szerint emögött a moszkvai Pravda (igazság) nevű hálózat áll, amely világszerte Kreml-barát propagandát terjeszt.
„A nyugati mesterséges intelligencia rendszerek eredményei között most hatalmas mennyiségű – 2024-ben 3 600 000 cikk – orosz propaganda szerepel, hamis állításokkal és propagandával fertőzve meg a válaszokat” – írják a kutatók jelentésükben.
A tanulmányhoz a NewsGuard a tíz legfontosabb mesterséges intelligencia alkalmazást vizsgálta meg, köztük a ChatGPT-4-et, a Smart Assistant-et, a Grokot, a Copilot-ot, a Meta AI-t, a Google Geminit és a Perplexity-t. Ezek mindegyike reprodukálta a Pravda által terjesztett hamis információkat, írja a tanulmány, hét chatbot még konkrét Pravda-cikkeket is idézett forrásként.
A kutatók szerint a Pravda hálózat úgy manipulálja a chatbotokat, hogy hamis híreivel elárasztja az AI-alkalmazások nagy nyelvi modelljeit (LLM), amelyekből a válaszokat generálják. Ezt a módszert „LLM grooming”-nak nevezik – írja a tanulmányról beszámoló Spiegel. A tanulmány szerint a mesterséges intelligencia chatbotok nemcsak felveszik az interneten keringő dezinformációkat, hanem szándékosan befolyásolják is őket.
Egy másik tanulmányban az amerikai Sunlight Project nevű NGO is a Pravda hálózat – más néven „Portal Kombat” – növekvő hatókörére figyelmeztet.
„A Pravda hálózat képessége a dezinformáció ilyen mértékű terjesztésére példátlan, és a mesterséges intelligencia rendszerek befolyásolására való lehetősége még veszélyesebbé teszi ezt a fenyegetést” – mondta Nina Jankowicz, a szervezet ügyvezető igazgatója az AFP-nek. „Az orosz befolyásszerzés hatókörének és kifinomultságának növekedésével a demokratikus vita integritása világszerte közvetlen veszélybe kerül.”
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Ügyes módszerekkel árasztja el a webet az orosz dezinformációs gépezet, és úgy tűnik, már arra is rájöttek, hogyan lehet befolyásolni az MI-chatbotok válaszait.
Bizonyos esetekben a mesterségesintelligencia-chatbotok válaszaira is hatással lehet az orosz propaganda, derül ki a NewsGuard friss jelentéséből.
A híroldalakat értékelő rendszereket is fejlesztő cég állítja: bizonyítékokat talált arra, hogy a moszkvai székhelyű Pravda valótlan állításokat terjeszt, hogy befolyásolja a különböző MI-chatbotok válaszait.
A jelentés szerint a Pravda valósággal elárasztotta a keresési találatokat oroszbarát valótlanságokkal; csak 2024-ben 3,6 millió félrevezető cikket publikáltak. A NewsGuard az American Sunlight-projekt statisztikáit vizsgálva jutott ezekre a megállapításokra.
Mint kiderült: a 10 vezető chatbotot (így a ChatGPT-t és a Meta AI-t is) vizsgálva a szakemberek úgy találták, az esetek 33 százalékában valamennyi chatbot az orosz valótlanságokat ismételgette. Ilyen volt például az is, hogy Amerika titkos biofegyverlaborokat működtet Ukrajnában – összegez a TechCrunch.
A Pravda azért lehet hatékony az MI-chatbotok válaszainak befolyásolásában, mert fejlett keresőoptimalizálási megoldásokat alkalmaz – így a tartalmai láthatóbbá válnak. Igazán jó megoldás pedig jelenleg nincs erre, mivel a chatbotok nagyban támaszkodnak a webmotorokra.
[type] => post [excerpt] => Ügyes módszerekkel árasztja el a webet az orosz dezinformációs gépezet, és úgy tűnik, már arra is rájöttek, hogyan lehet befolyásolni az MI-chatbotok válaszait. [autID] => 12 [date] => Array ( [created] => 1741701780 [modified] => 1741644540 ) [title] => Annyi álhírt terjeszt az orosz propagandahálózat, hogy már a ChatGPT is visszamondja őket [url] => https://life.karpat.in.ua/?p=234870&lang=hu [status] => publish [translations] => Array ( [hu] => 234870 [uk] => 234986 ) [aut] => totinviktoria [lang] => hu [image_id] => 234871 [image] => Array ( [id] => 234871 [original] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir.jpg [original_lng] => 196881 [original_w] => 1024 [original_h] => 450 [sizes] => Array ( [thumbnail] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir-150x150.jpg [width] => 150 [height] => 150 ) [medium] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir-300x132.jpg [width] => 300 [height] => 132 ) [medium_large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir-768x338.jpg [width] => 768 [height] => 338 ) [large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir.jpg [width] => 1024 [height] => 450 ) [1536x1536] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir.jpg [width] => 1024 [height] => 450 ) [2048x2048] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir.jpg [width] => 1024 [height] => 450 ) [full] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/03/alhir.jpg [width] => 1024 [height] => 450 ) ) ) [video] => [comments_count] => 0 [domain] => Array ( [hid] => life [color] => red [title] => Життя ) [_edit_lock] => 1741778463:3 [_thumbnail_id] => 234871 [_edit_last] => 12 [translation_required] => 1 [views_count] => 3103 [_oembed_72fc28b6c12cb3170c6fb5558d7feba3] => {{unknown}} [translation_required_done] => 1 [_algolia_sync] => 508519209000 [_oembed_be97fd1141d04288b944084c6c6a598b] =>
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Több ezer felhasználó egyszerre arra kezdett panaszkodni, hogy nem indul el, illetve a szokásosnál lassabb a ChatGPT mesterséges intelligencia program. A felhasználók egy része hibaüzenetet kapott, amikor megpróbált hozzáférni a webhelyhez és az alkalmazáshoz. Az OpenAI egyelőre nem ismerte el a problémát, így megkérdeztük magát ChatGPT-t is.
Az OpenAI népszerű chatbotjának, a ChatGPT-nek több ezer felhasználója jelentett fennakadásokat a szolgáltatásukban a downdetector.com kieséskövető oldal szerint – tudtam meg az Euronews.
Az OpenAI ugyan még nem ismerte el az üzemzavart, de a felhasználók a világ minden tájáról jelentettek problémákat az elmúlt két napban. A bejelentések száma csütörtökön, közép-európai idő szerint 12.30 körül ugrott meg. Az Egyesült Királyságban a közzététel időpontjáig több mint 5600, az Egyesült Államokban pedig több mint 4300 bejelentés érkezett az oldalra.
Ez történt hazánkban is. Míg az elmúlt két napban alig 1-2 bejelentés érkezett, addig csütörtökön 12.30 és 13.00 között több száz.
A felhasználók „Bad gateway” hibaüzenetet kapnak, amikor megpróbálnak hozzáférni a webhelyhez és az alkalmazáshoz.
A Világgazdaság szerkesztősége azt tapasztalta, hogy a mesterséges intelligencia chatbot működik, amit maga a program is megerősített számunkra.
A downdetector.com jelentései szerint a felhasználóknak szerdán is problémáik voltak a feltöltési sebességgel és a ChatGPT elérésével.
[type] => post [excerpt] => Több ezer felhasználó egyszerre arra kezdett panaszkodni, hogy nem indul el, illetve a szokásosnál lassabb a ChatGPT mesterséges intelligencia program. A felhasználók egy része hibaüzenetet kapott, amikor megpróbált hozzáférni a webhelyhez és az a... [autID] => 12 [date] => Array ( [created] => 1737758400 [modified] => 1737683095 ) [title] => Valami baj van a ChatGPT-vel [url] => https://life.karpat.in.ua/?p=230417&lang=hu [status] => publish [translations] => Array ( [hu] => 230417 ) [aut] => totinviktoria [lang] => hu [image_id] => 230418 [image] => Array ( [id] => 230418 [original] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt.jpg [original_lng] => 65800 [original_w] => 1200 [original_h] => 771 [sizes] => Array ( [thumbnail] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt-150x150.jpg [width] => 150 [height] => 150 ) [medium] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt-300x193.jpg [width] => 300 [height] => 193 ) [medium_large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt-768x493.jpg [width] => 768 [height] => 493 ) [large] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt-1024x658.jpg [width] => 1024 [height] => 658 ) [1536x1536] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt.jpg [width] => 1200 [height] => 771 ) [2048x2048] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt.jpg [width] => 1200 [height] => 771 ) [full] => Array ( [url] => https://life.karpat.in.ua/wp-content/uploads/2025/01/chatgpt.jpg [width] => 1200 [height] => 771 ) ) ) [video] => [comments_count] => 0 [domain] => Array ( [hid] => life [color] => red [title] => Життя ) [_edit_lock] => 1737675895:12 [_thumbnail_id] => 230418 [_edit_last] => 12 [views_count] => 5974 [_algolia_sync] => 831911696002 [_oembed_be97fd1141d04288b944084c6c6a598b] =>
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
Egy friss kísérlet kimutatta, hogy elrejtett tartalmak felhasználásával manipulálható a ChatGPT keresőmotorja. A hibákat persze feltehetően hamar javítják majd.
Néhány napja már sima regisztrációval, fizetős ChatGPT Plus hozzáférés nélkül is elérhető az OpenAI által fejlesztett új, mesterségesintelligencia-alapú keresőmotor, amit a Guardian szerkesztősége azon melegében le is tesztelt, hogy mennyire manipulálható.
A lap által kedden megjelentetett cikk szerint az újságírók olyan weboldalak összefoglalására kérték a keresőt, amelyeken rejtett tartalmak voltak megtalálhatók. Ezek a rejtett tartalmak lehetnek harmadik féltől származó utasítások, amelyek megváltoztatják, bizonyos irányba terelik a ChatGPT válaszait, illetve lehetnek olyanok, amelyek eleve azért készültek, hogy befolyásolják a mesterséges intelligencia reakcióját: ilyen lehet például egy hosszabb szövegrészlet, ami egy termék vagy egy szolgáltatás előnyeit taglalja.
A kísérlet során egy URL-t adtak meg a ChatGPT-nek, ami egy fényképezőgép termékoldalának látszó, ám hamis weblapra mutatott. A mesterséges intelligenciától azt kérdezték, érdemes-e megvásárolni a gépet. A ChatGPT elsőre pozitív, de kiegyensúlyozott választ adott, rámutatva a gépnek néhány olyan tulajdonságára is, ami nem feltétlenül előnyös.
Abban az esetekben viszont, amikor az oldalon található rejtett szövegben arra utasították a ChatGPT-t, hogy előnyös értékelést adjon, a válasz mindig teljes mértékben pozitív volt. Ilyenkor a mesterséges intelligencia még akkor is így tett, ha az oldalon egyébként láthatóan negatív értékelések szerepeltek a termékről.
Jacob Larsen, a CyberCX kiberbiztonsági szakértője úgy fogalmazott, hogy ha a ChatGPT keresőjét így, a jelenlegi formájában hagyják működni, abban az esetben komoly kockázatot jelenthet, mert a fenti hibáit kihasználva a csalók olyan weboldalakat hozhatnak létre, amelyekkel becsaphatják a gyanútlan internetezőket.
A szakember ugyanakkor hozzátette, ez a keresőfunkció még igen friss fejlesztés, és mint ilyet, az OpenAI fejlesztői minden bizonnyal tesztelik, a hibákat pedig valószínűleg rövid időn belül javítani fogják.
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
