Hat mesterséges intelligencia-eszközt, köztük az OpenAI ChatGPT-jét is arra használták ki, hogy olyan kódot írjanak, amely képes károsítani a kereskedelmi adatbázisokat, írja a New Scientist. Úgy tűnik, hogy OpenAI azóta javította a biztonsági rést, a többi eszköz azonban valószínűleg továbbra is tud hackereset játszani.
Brit kutatók úgy manipuláltak hat MI-eszközt, hogy olyan rosszindulatú kódot hozzanak létre, amely érzékeny információkat szivárogtathat ki online adatbázisokból, törölhet fontos adatokat vagy megzavarhatja az adatbázis-felhőszolgáltatásokat.
Ez rosszul hangzik, de valójában segítség az MI-eszközök fejlesztőinek, hogy úgy módosíthassák az eszközöket, hogy azokat ne tudják kihasználni olyanok, akik tényleg vissza is akarnak élni ezekkel a kicsalt információkkal.
„Ez a legelső olyan tanulmány, amely bemutatja, hogy a nagy nyelvi modellek sebezhetőségei általában kihasználhatók az online kereskedelmi alkalmazásokban” – mondja Hszitan Peng, a tanulmány egyik első szerzője.
Peng és munkatársai hat mesterséges intelligencia-szolgáltatással kísérleteztek, mindegyik képes lefordítani a felszólításokat SQL programozási nyelvre. Ezt általában számítógépes adatbázisok lekérdezésére használják. Az úgynevezett „text-to-SQL” rendszerek egyre népszerűbbek, hiszen még az olyan nyilvánosan elérhető mesterségesintelligencia-rendszerek, mint amilyen például a ChatGPT is, képesek használható, valid SQL-kódot generálni.
A kutatóknak sikerült olyan SQL-kódot gyártani, ami adatbázis-információk kiszivárogtatására vonatkozó utasításokat tartalmazott, ez pedig egyenes út lehet a jövőbeli kibertámadások felé. Az ilyen információk aranyat érnek a dark weben, főleg, ha minél személyesebb és érzékenyebb információt tartalmaznak. Elég, ha egy ilyen adatbázis a bankkártyára vagy online vásárlásokra vonatkozó információkat tárol.
A chatbotok által generált kódok ezen kívül lehívhatják a felhasználói profilokat, neveket és jelszavakat tároló rendszeradatbázisokat, és szolgáltatásmegtagadási támadások révén túlterhelhetik az adatbázisokat tároló felhőkiszolgálókat.
A kutatócsoport 2023 februárjában kezdett el dolgozni a ChatGPT-vel, és a tesztek kimutatták, hogy az MI-chatbot képes adatbázisokat károsító SQL-kódot generálni. Még az is kaphat káros kódot, aki a ChatGPT-t mindenféle rosszindulat nélkül arra kéri, hogy generáljon egy adatbázislehívó kódot: például egy ápolónő, aki az egészségügyi rendszer adatbázisában tárolt klinikai feljegyzéseket szeretné megtekinteni. Ez azért is veszélyes, mert a chatbotok nem figyelmeztetik a felhasználót, hogy rosszindulatú kódot generáltak, így az akár teljesen jóhiszeműen is hozzájuthat érzékeny adatokhoz.
A kutatók megjegyezték, hogy az azóta végzett tesztek alapján arra következtetnek, hgoy az OpenAI javította a ChatGPT „text-to-SQL” funkcióját.
Nemcsak a ChatGPT tudott ilyen SQL-kódot készíteni azonban, a kínai Baidu MI-chatbotja is probléma nélkül gyártott kényszerített adatbázis-lekérdező kódokat. Miután a kutatók 2022 novemberében jelentést küldtek a Baidunak a tesztelési eredményeikről, a cég pénzügyi jutalmat adott nekik, majd javította a rendszert. A kutatók azt is megjegyezték, hogy az olyan rendszerek, mint a ChatGPT, könnyebben manipulálhatók káros kódok írására, mint a Baidu-UNIT, ami sokkal szigorúbban szabályozott.
Az adatbázis-lopás nem az első komoly probléma, ami felmerült az MI-chatbotokkal kapcsolatban: az Amazon szerint ellepték a felületet ChatGPT-vel írt silány minőségű regények, több író konkrétan lopással vádolta az OpenAI-t, a chatbot bátorított már öngyilkosságra embereket, egy belga férfi emiatt meg is halt, az ESET szerint pedig biztonsági problémát jelentenek az ilyen rendszerek. Az is érdekes volt, amikor márciusban megjelent egy oktatással foglalkozó folyóiratban egy tanulmány, ami amellett érvelt, hogy a mesterséges intelligencia (MI) és az azt kiaknázó csetbotok elterjedése megkönnyíti a csalást és a plagizálást a diákok számára. Ugyan három létező kutató lett megnevezve szerzőként, a tanulmányt valójában egy csetbot írta.
[type] => post
[excerpt] => Hat mesterséges intelligencia-eszközt, köztük az OpenAI ChatGPT-jét is arra használták ki, hogy olyan kódot írjanak, amely képes károsítani a kereskedelmi adatbázisokat, írja a New Scientist. Úgy tűnik, hogy OpenAI azóta javította a biztonsági rés...
[autID] => 4
[date] => Array
(
[created] => 1698703500
[modified] => 1698662168
)
[title] => Olyan kódot írt a ChatGPT, amivel személyes információkat is ellophat
[url] => https://life.karpat.in.ua/?p=167046&lang=hu
[status] => publish
[translations] => Array
(
[hu] => 167046
)
[aut] => avecsorinszka
[lang] => hu
[image_id] => 167047
[image] => Array
(
[id] => 167047
[original] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image.webp
[original_lng] => 23152
[original_w] => 900
[original_h] => 506
[sizes] => Array
(
[thumbnail] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image-150x150.webp
[width] => 150
[height] => 150
)
[medium] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image-300x169.webp
[width] => 300
[height] => 169
)
[medium_large] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image-768x432.webp
[width] => 768
[height] => 432
)
[large] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image.webp
[width] => 900
[height] => 506
)
[1536x1536] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image.webp
[width] => 900
[height] => 506
)
[2048x2048] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image.webp
[width] => 900
[height] => 506
)
[full] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/10/chatgpt-scaled-e1678433827524-0-article-image.webp
[width] => 900
[height] => 506
)
)
)
[video] =>
[comments_count] => 0
[domain] => Array
(
[hid] => life
[color] => red
[title] => Життя
)
[_edit_lock] => 1698654970:4
[_thumbnail_id] => 167047
[_edit_last] => 4
[translation_required] => 1
[views_count] => 1956
[translation_required_done] => 1
[_oembed_d28a2236c89cbf81777889e43bb5fce2] =>
[_oembed_time_d28a2236c89cbf81777889e43bb5fce2] => 1698696308
[labels] => Array
(
)
[categories] => Array
(
[0] => 15
[1] => 41
[2] => 49
[3] => 590
[4] => 39
)
[categories_name] => Array
(
[0] => A nap hírei
[1] => Cikkek
[2] => Hírek
[3] => IT
[4] => Világ
)
[tags] => Array
(
[0] => 16010
[1] => 440874
)
[tags_name] => Array
(
[0] => adatlopás
[1] => ChatGPT
)
)
[1] => Array
(
[id] => 160346
[content] =>
A CNN, a Bloomberg és a Reuters után a brit The Guardian vezetősége is úgy döntött, megakadályozza, hogy az OpenAI felhasználja tartalmait olyan mesterséges intelligencia termékekhez, mint a ChatGPT.
Az aggodalmak amiatt, hogy az OpenAI engedély nélküli tartalmakat használ fel mesterséges intelligencia eszközeinek fejlesztéséhez, oda vezettek, hogy az írók pert indítottak a vállalat ellen, a kreatív iparágak pedig biztosítékokat követelnek szellemi tulajdonuk védelmére.
A ChatGPT és a hasonló eszközök mögött álló technológiát a nyílt internetről – többek között újságcikkekből – származó hatalmas mennyiségű adattal „képzik ki”, amely lehetővé teszi az eszközök számára, hogy meghatározzák, melyik szó vagy mondat fog következni legnagyobb valószínűséggel a felhasználó kérése után.
A mesterséges intelligencia által generált tartalmakat felderítő Originality.ai szerint a GPTBot crawlerét – amely weboldalakról vesz át adatokat a mesterséges intelligencia modelljeinek táplálására – jelenleg már blokkoló hírportálok közé tartozik a CNN, a Reuters, a Washington Post, a Bloomberg, illetve a New York Times és annak sportoldala, a The Athletic is.
A Guardian News & Media, a Guardian és az Observer kiadójának szóvivője elmondta:
„A szellemi tulajdon kereskedelmi célú begyűjtése a Guardian weboldaláról ellentétes a szolgáltatási feltételeinkkel, és ez mindig is így volt”.
Több, mint fél évnyi diadalmenet után úgy tűnik, hogy kezd kifulladni a mesterséges intelligenciák körüli felhajtás. Másként nehéz értékelni azt a tényt, hogy az egész világon csökkeni kezdett az egyik legismertebb ilyen szolgáltatás, a ChatGPT forgalma.
Méghozzá nem is kevéssel: májusról júniusra ugyanis közel 10%-kal esett vissza az OpenAIchatbotját felhívó felhasználók száma – állítja a SimilarWeb jelentése. A visszaesés a mobilos és asztali felhasználókan egyaránt érintette, ráadásul az Egyesült Államokban sokkal súlyosabb volt, mint a világ maradék részében.
A ChatGPT tavaly őszi nyilvánossá válása óta folyamatosan nőtt az azt igénybe vevők száma, a mostani azonban az első alkalom, hogy csökken a felhasználók száma. Szakértők szerint a dolog hátterében az állhat, hogy a mesterséges intelligencián alapuló chatbot ma már nem újdonság a legtöbbek számára, aki akarta már kipróbálta, ugyanakkor utóbbiak csak kis része tudott értelmes felhasználási módot találni alkalmazására a mindennapjaiban – akár munkájában, akár szórakozás céljára.
A ChatGPT egyébként nem az egyetlen mesterséges intelligencia alkalmazás, aminek forgalma visszaesett a múlt hónapban. Ugyanígy járt ugyanis a Microsoft Bingalkalmazása is, ami szintén egy MI-s chatbot-szolgáltatással bővült a tavasszal, de amit ugyancsak kevesebben töltöttek le júniusban, mint a megelőző hónapokban.
[type] => post
[excerpt] => Több, mint fél évnyi diadalmenet után úgy tűnik, hogy kezd kifulladni a mesterséges intelligenciák körüli felhajtás. Másként nehéz értékelni azt a tényt, hogy az egész világon csökkeni kezdett az egyik legismertebb ilyen szolgáltatás, a ChatGPT fo...
[autID] => 4
[date] => Array
(
[created] => 1688853960
[modified] => 1688829767
)
[title] => Csökkenni kezdett a ChatGPT forgalma
[url] => https://life.karpat.in.ua/?p=153767&lang=hu
[status] => publish
[translations] => Array
(
[hu] => 153767
[uk] => 153792
)
[aut] => avecsorinszka
[lang] => hu
[image_id] => 153768
[image] => Array
(
[id] => 153768
[original] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt.webp
[original_lng] => 45432
[original_w] => 1200
[original_h] => 800
[sizes] => Array
(
[thumbnail] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt-150x150.webp
[width] => 150
[height] => 150
)
[medium] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt-300x200.webp
[width] => 300
[height] => 200
)
[medium_large] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt-768x512.webp
[width] => 768
[height] => 512
)
[large] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt-1024x683.webp
[width] => 1024
[height] => 683
)
[1536x1536] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt.webp
[width] => 1200
[height] => 800
)
[2048x2048] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt.webp
[width] => 1200
[height] => 800
)
[full] => Array
(
[url] => https://life.karpat.in.ua/wp-content/uploads/2023/07/chatgpt.webp
[width] => 1200
[height] => 800
)
)
)
[video] =>
[comments_count] => 0
[domain] => Array
(
[hid] => life
[color] => red
[title] => Життя
)
[_edit_lock] => 1688825087:3
[_thumbnail_id] => 153768
[_edit_last] => 4
[views_count] => 1259
[_oembed_d28a2236c89cbf81777889e43bb5fce2] =>
[_oembed_time_d28a2236c89cbf81777889e43bb5fce2] => 1688822530
[labels] => Array
(
)
[categories] => Array
(
[0] => 41
[1] => 49
[2] => 39
)
[categories_name] => Array
(
[0] => Cikkek
[1] => Hírek
[2] => Világ
)
[tags] => Array
(
[0] => 440874
[1] => 31918
)
[tags_name] => Array
(
[0] => ChatGPT
[1] => forgalom csökkenés
)
)
[3] => Array
(
[id] => 149760
[content] =>
Ukrajnában elérhetővé vált az OpenAI cég által fejlesztett ChatGPT alkalmazás. Jelenleg azonban csak az iOS operációs rendszert futtató eszközök tulajdonosai számára érhető el.
A ChatGPT alkalmazás iOS 16.1 vagy újabb rendszeren fut. A cég azt ígérte, hogy a közeljövőben kiad egy verziót Androidra is.
A ChatGPT az OpenAI nevű cég mesterséges intelligencia rendszere, amely képes párbeszéd jelleggel megválaszolni összetett kérdéseket. Tud beszélgetni az élet nagy kérdéseiről, képes irodalmi esszét írni, programot javítani, házi feladatot megoldani, verset írni és rengeteg egyebet.
Ám nem csak írni, javítani is képes. Amennyiben nem bízná rá az egész önéletrajzának a megírását egy gépre, úgy elküldheti neki amit írt, a chatbot pedig javaslatokat tesz majd arra, hogy hol lehetne még javítani, pontosítani – állítja az Interesting Engineering hírportál.
Ezentúl bárki ingyen használhatja a Microsoft új, mesterséges intelligenciát használó Bing nevű internetes keresőjét. A ChatGPT-s szolgáltatás az Edge böngészőből érhető el. Az algoritmus jelenlegi tudása hamarosan bővül.
A ChatGPT mesterséges intelligenciájával frissített Bing verzióját mintegy három hónapja mutatták be, akkor még csak egy szűk közönségnek. A Microsoft ezt a korlátozást most feloldotta,
így bárki kipróbálhatja az újítást, feltéve, hogy a Microsoft Edge böngészőn keresztül használja a keresőmotort.
„Egyre jobbak vagyunk a sebességben, egyre jobbak vagyunk a pontosságban, (…) de a kihívás arra, hogy jobbá tegyük a dolgokat, végeláthatatlan” – mondta Yusuf Mehdi, a technológiai vállalat mesterséges intelligenciát tartalmazó kezdeményezéseit felügyelő alelnöke.
Mehdi elmonda, hogy a Bingnek napi 100 milliót meghaladó aktív felhasználója van, és jelentős növekedett az elmúlt hónapokban, és ami tovább gyarapodhat, ha valóban felváltja a Google-t a Samsung okostelefonjain.
A Microsoft februárban bemutatta, hogy a megújult keresőmotorja összefoglalókat ír a keresési eredményekről, és cseveg a felhasználókkal. Ám ez még nem minden, hamarosan
képekkel is lehet kérdéseket feltenni,
hozzá lehet férni a csevegési előzményekhez, azaz a chatbot emlékszik majd a felhasználókkal való kapcsolatára, valamint a válaszokat Microsoft Wordbe lehet exportálni. A kellemes felhasználói élményt pedig azzal erősítik, hogy személyre szabható lesz a chatbot válaszainak hangneme és stílusa, továbbá hosszabb és kreatívabb, valamint rövidebb és lényegre törő válaszok is beállíthatóak lesznek.
A ChatGPT-t az OpenAI fejlesztette ki a Microsoft pénzügyi támogatásával. A pár hónapja megjelent forradalmi fejlesztés feltüzelte a technológiai vállalatok közötti versenyt. Így habár OpenAI, a Microsoft és a Google élen járnak a mesterséges intelligencia használatában, a versenybe beszállt az IBM, az Amazon, a Baidu, a Tencent és számos startup is.
A Microsoft azonkívül, hogy a mesterséges intelligenciával egyre jobbá teszi az internetes keresőjét, a ChatGPT technológiát a Wordbe, az Excelbe és az Outlookba is beépíti.
Reagálva a technológiai ipar gurujainak aggodalmára, Mehdi elmondta, hogy megérti a félelmet, de nem hiszi, hogy a mesterséges intelligencia fejlesztése túl gyorsan halad, és szüneteltetni kellene. „Az egyetlen módja annak, hogy ezt a technológiát valóban jól felépítsük, ha azt a nyilvánosság előtt nyíltan tesszük, és beszélgetünk róla” – vélekedett a Microsoft alelnöke szerdán a CNN-nek.
A robot beszélget el a kiválasztott szerencséssel, és csak akkor szól, ha sikerült egy személyes randevút leszerveznie.
A ChatGPT népszerűségének köszönhetően egyre több fejlesztő kísérletezik a mesterséges intelligenciával. A chatbot új lehetőségek előtt nyitott utat, és most sokan próbálják ki az AI felhasználásának ötletes módjait. Korábban a Tindernél dolgozó programozók egy olyan szoftvert alkottak, amely megkönnyíti a párkeresés legnehezebb, kezdeti szakaszát. A felhasználók nevében beszélget, megismeri a másikat, és csak akkor küld értesítést, ha létrejön egy randevú. Az AI chatbot honlapja szerint a fejlesztők azért léptek ki a Tindertől, mert az tiltotta az eredményes párkereséshez vezető ötletek megvalósítását, mivel az a felhasználói szám csökkenéséhez vezet. Ezért a programozók úgy döntöttek, hogy elhagyják a céget, és maguk építettek egy platformot. A chatbot neve CupidBot AI, és csak a heteroszexuális férfiaknak szól. A honlapja szerint az AI a felhasználó helyett böngészi át a Tinder társkereső alkalmazást és a nevében cseveg a találatokkal. Jelenleg a szoftver bétatesztelése zajlik.
„Belefáradtam abba, hogy az időmet pazaroljam a társkereső alkalmazásokon, csak azért, hogy havonta egy-két randit össze tudjak hozni. Úgy döntöttem, hogy építek egy mesterséges intelligenciával működő társkereső botot, amely képes elvégezni helyettem az összes jelentkezést és csevegést, és telefonszámokat szerez. A társkereső alkalmazásokat használva azt találtam, hogy ha megkaptam egy lány számát és fel tudtam hívni, általában jó kapcsolatot tudtam kiépíteni vele.” – írja az egyik fejlesztő a Redditen. A bejegyzés szerint cél a lehető legkevesebb oda-vissza csevegés végrehajtása és a használó érdeklődési körének megfelelő témák alkalmazása.
Az AI a korábban kiválasztotthoz hasonló kinézetű nőket veszi célba, és nem árulja el magáról, hogy nem ember. A CupidBots szóvivője visszautasítja, hogy mindez a „nők tárgyiasítása” lenne, közlése szerint „a férfiak szenvednek a legjobban a társkereső alkalmazásoktól”, és hogy ők vannak a „leghátrányosabb helyzetben” a Tinderen. A szóvivő azt is kifejtette, hogy a társkereső pszichológiai hatása – amelyet „különösen a fiatal férfiakra” gyakorol a Tinder – „nettó társadalmi kárral” jár, mert ezek alkalmazások a folyamatos elköteleződésből profitálnak, és nem a felhasználók érdekeit helyezik az első helyre.
Kiemelik, hogy a nők aránytalanul nagy száma a férfi felhasználók 5 százalékát részesíti előnyben, és hogy „gyötrelmes aszimmetria van a felhasználói tapasztalatokban”. Hozzátették, hogy a nők általában óvatosabb felhasználók, akiknek több időbe telik eldönteni, hogy jobbra húzzanak-e. Mindenesetre ez az alkalmazás biztosan nem segít azon, hogy a nők a férfiaknál nagyobb valószínűséggel tartják a társkereső alkalmazásokat nem biztonságosnak. A CupidBot alapítói azonban úgy gondolják, hogy az első benyomásként egy titkos AI chatbottal való összekötés a férfiak felé billenti a mérleget.
A New York-i oktatási rendszer diákjai és tanárai már nem férhetnek hozzá a ChatGPT-hez, az OpenAI mesterséges intelligencia alapú chatbotjához, amely novemberi indulása óta szinte felrobbantotta az internetet – írja a Cybernews.
A chatbot verseket és programkódokat is ír, valamint meglepően pontos válaszokat ad különböző témákban a felhasználók kérdéseire. A chatbotról már mi is írtunk korábban, a lehetséges felhasználási területeknél pedig felmerült, hogy az ügyfélszolgálati, a szoftverfejlesztési és az akadémiai kutatómunka mellett az oktatásban is hasznos lehet, ám a plagizálásra előbb utóbb megoldást kell majd találni.
Az Egyesült Államok legnagyobb iskolarendszerét működtető New York-i oktatási hivatal most úgy döntött, a legegyszerűbb megoldást választja: betiltotta a ChatGPT-t az oktatási intézményeiben. A hivatal azt írta a közleményében, hogy a ChatGPT-hez való hozzáférést a „diákok tanulására gyakorolt negatív hatások, valamint a tartalom biztonságával és pontosságával kapcsolatos aggodalmak” miatt blokkolták – számol be róla a Cybernews.
A hivatalnak tehát tartalmi kifogásai is voltak a válaszokkal, hogy a chatbot válaszai – annak ellenére, hogy rendkívül meggyőzően adja elő őket – néha tényszerű tévedéseket tartalmaznak. A hivatal szerint ráadásul az eszköz nem fejleszti a kritikus gondolkodást és a problémamegoldó készségeket, amelyek „elengedhetetlenek” a tanulmányi és az egész életen át tartó sikerhez.
A hivatal közölte, hogy az iskolák továbbra is kaphatnak hozzáférést a programhoz, ha ezt külön kérvényezik.
Released video of the destruction of the observation post of the Armed Forces of Ukraine near Avdeyevka by the Russian FPV drone "Ovod". pic.twitter.com/OXKAcKoEIs
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3pic.twitter.com/JecHXVmt8l
