{"id":167046,"date":"2023-10-30T22:05:00","date_gmt":"2023-10-30T20:05:00","guid":{"rendered":"https:\/\/life.karpat.in.ua\/?p=167046"},"modified":"2023-10-30T10:36:08","modified_gmt":"2023-10-30T08:36:08","slug":"olyan-kodot-irt-a-chatgpt-amivel-szemelyes-informaciokat-is-ellophat","status":"publish","type":"post","link":"https:\/\/life.karpat.in.ua\/?p=167046&lang=hu","title":{"rendered":"Olyan k\u00f3dot \u00edrt a ChatGPT, amivel szem\u00e9lyes inform\u00e1ci\u00f3kat is ellophat"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

Hat mesters\u00e9ges intelligencia-eszk\u00f6zt, k\u00f6zt\u00fck az OpenAI ChatGPT-j\u00e9t is arra haszn\u00e1lt\u00e1k ki, hogy olyan k\u00f3dot \u00edrjanak, amely k\u00e9pes k\u00e1ros\u00edtani a kereskedelmi adatb\u00e1zisokat,\u00a0\u00edrja a New Scientist<\/a>. \u00dagy t\u0171nik, hogy OpenAI az\u00f3ta jav\u00edtotta a biztons\u00e1gi r\u00e9st, a t\u00f6bbi eszk\u00f6z azonban val\u00f3sz\u00edn\u0171leg tov\u00e1bbra is tud hackereset j\u00e1tszani.<\/strong><\/p>\n\n\n\n

Brit kutat\u00f3k \u00fagy manipul\u00e1ltak hat MI-eszk\u00f6zt, hogy olyan rosszindulat\u00fa k\u00f3dot hozzanak l\u00e9tre, amely \u00e9rz\u00e9keny inform\u00e1ci\u00f3kat sziv\u00e1rogtathat ki online adatb\u00e1zisokb\u00f3l, t\u00f6r\u00f6lhet fontos adatokat vagy megzavarhatja az adatb\u00e1zis-felh\u0151szolg\u00e1ltat\u00e1sokat.<\/p>\n\n\n\n

Ez rosszul hangzik, de val\u00f3j\u00e1ban seg\u00edts\u00e9g az MI-eszk\u00f6z\u00f6k fejleszt\u0151inek, hogy \u00fagy m\u00f3dos\u00edthass\u00e1k az eszk\u00f6z\u00f6ket, hogy azokat ne tudj\u00e1k kihaszn\u00e1lni olyanok, akik t\u00e9nyleg vissza is akarnak \u00e9lni ezekkel a kicsalt inform\u00e1ci\u00f3kkal.<\/p>\n\n\n\n

\u201eEz a legels\u0151 olyan tanulm\u00e1ny, amely bemutatja, hogy a nagy nyelvi modellek sebezhet\u0151s\u00e9gei \u00e1ltal\u00e1ban kihaszn\u00e1lhat\u00f3k az online kereskedelmi alkalmaz\u00e1sokban\u201d \u2013 mondja Hszitan Peng, a tanulm\u00e1ny egyik els\u0151 szerz\u0151je.<\/p>\n\n\n\n

Peng \u00e9s munkat\u00e1rsai hat mesters\u00e9ges intelligencia-szolg\u00e1ltat\u00e1ssal k\u00eds\u00e9rleteztek, mindegyik k\u00e9pes leford\u00edtani a felsz\u00f3l\u00edt\u00e1sokat SQL programoz\u00e1si nyelvre. Ezt \u00e1ltal\u00e1ban sz\u00e1m\u00edt\u00f3g\u00e9pes adatb\u00e1zisok lek\u00e9rdez\u00e9s\u00e9re haszn\u00e1lj\u00e1k. Az \u00fagynevezett \u201etext-to-SQL\u201d rendszerek egyre n\u00e9pszer\u0171bbek, hiszen m\u00e9g az olyan nyilv\u00e1nosan el\u00e9rhet\u0151 mesters\u00e9gesintelligencia-rendszerek, mint amilyen p\u00e9ld\u00e1ul a ChatGPT is, k\u00e9pesek haszn\u00e1lhat\u00f3, valid SQL-k\u00f3dot gener\u00e1lni.<\/p>\n\n\n\n

A kutat\u00f3knak siker\u00fclt olyan SQL-k\u00f3dot gy\u00e1rtani, ami adatb\u00e1zis-inform\u00e1ci\u00f3k kisziv\u00e1rogtat\u00e1s\u00e1ra vonatkoz\u00f3 utas\u00edt\u00e1sokat tartalmazott, ez pedig egyenes \u00fat lehet a j\u00f6v\u0151beli kibert\u00e1mad\u00e1sok fel\u00e9. Az ilyen inform\u00e1ci\u00f3k aranyat \u00e9rnek a dark weben, f\u0151leg, ha min\u00e9l szem\u00e9lyesebb \u00e9s \u00e9rz\u00e9kenyebb inform\u00e1ci\u00f3t tartalmaznak. El\u00e9g, ha egy ilyen adatb\u00e1zis a bankk\u00e1rty\u00e1ra vagy online v\u00e1s\u00e1rl\u00e1sokra vonatkoz\u00f3 inform\u00e1ci\u00f3kat t\u00e1rol.<\/p>\n\n\n\n

A chatbotok \u00e1ltal gener\u00e1lt k\u00f3dok ezen k\u00edv\u00fcl leh\u00edvhatj\u00e1k a felhaszn\u00e1l\u00f3i profilokat, neveket \u00e9s jelszavakat t\u00e1rol\u00f3 rendszeradatb\u00e1zisokat, \u00e9s szolg\u00e1ltat\u00e1smegtagad\u00e1si t\u00e1mad\u00e1sok r\u00e9v\u00e9n t\u00falterhelhetik az adatb\u00e1zisokat t\u00e1rol\u00f3 felh\u0151kiszolg\u00e1l\u00f3kat.<\/p>\n\n\n\n

A kutat\u00f3csoport 2023 febru\u00e1rj\u00e1ban kezdett el dolgozni a ChatGPT-vel, \u00e9s a tesztek kimutatt\u00e1k, hogy az MI-chatbot k\u00e9pes adatb\u00e1zisokat k\u00e1ros\u00edt\u00f3 SQL-k\u00f3dot gener\u00e1lni. M\u00e9g az is kaphat k\u00e1ros k\u00f3dot, aki a ChatGPT-t mindenf\u00e9le rosszindulat n\u00e9lk\u00fcl arra k\u00e9ri, hogy gener\u00e1ljon egy adatb\u00e1zisleh\u00edv\u00f3 k\u00f3dot: p\u00e9ld\u00e1ul egy \u00e1pol\u00f3n\u0151, aki az eg\u00e9szs\u00e9g\u00fcgyi rendszer adatb\u00e1zis\u00e1ban t\u00e1rolt klinikai feljegyz\u00e9seket szeretn\u00e9 megtekinteni. Ez az\u00e9rt is vesz\u00e9lyes, mert a chatbotok nem figyelmeztetik a felhaszn\u00e1l\u00f3t, hogy rosszindulat\u00fa k\u00f3dot gener\u00e1ltak, \u00edgy az ak\u00e1r teljesen j\u00f3hiszem\u0171en is hozz\u00e1juthat \u00e9rz\u00e9keny adatokhoz.<\/p>\n\n\n\n

A kutat\u00f3k megjegyezt\u00e9k, hogy az az\u00f3ta v\u00e9gzett tesztek alapj\u00e1n arra k\u00f6vetkeztetnek, hgoy az OpenAI jav\u00edtotta a ChatGPT \u201etext-to-SQL\u201d funkci\u00f3j\u00e1t.<\/p>\n\n\n\n

Nemcsak a ChatGPT tudott ilyen SQL-k\u00f3dot k\u00e9sz\u00edteni azonban, a k\u00ednai Baidu MI-chatbotja is probl\u00e9ma n\u00e9lk\u00fcl gy\u00e1rtott k\u00e9nyszer\u00edtett adatb\u00e1zis-lek\u00e9rdez\u0151 k\u00f3dokat. Miut\u00e1n a kutat\u00f3k 2022 november\u00e9ben jelent\u00e9st k\u00fcldtek a Baidunak a tesztel\u00e9si eredm\u00e9nyeikr\u0151l, a c\u00e9g p\u00e9nz\u00fcgyi jutalmat adott nekik, majd jav\u00edtotta a rendszert. A kutat\u00f3k azt is megjegyezt\u00e9k, hogy az olyan rendszerek, mint a ChatGPT, k\u00f6nnyebben manipul\u00e1lhat\u00f3k k\u00e1ros k\u00f3dok \u00edr\u00e1s\u00e1ra, mint a Baidu-UNIT, ami sokkal szigor\u00fabban szab\u00e1lyozott.<\/p>\n\n\n\n

Az adatb\u00e1zis-lop\u00e1s nem az els\u0151 komoly probl\u00e9ma, ami felmer\u00fclt az MI-chatbotokkal kapcsolatban: az Amazon szerint ellept\u00e9k a fel\u00fcletet ChatGPT-vel \u00edrt sil\u00e1ny min\u0151s\u00e9g\u0171 reg\u00e9nyek, t\u00f6bb \u00edr\u00f3 konkr\u00e9tan lop\u00e1ssal v\u00e1dolta az OpenAI-t, a chatbot b\u00e1tor\u00edtott m\u00e1r \u00f6ngyilkoss\u00e1gra embereket, egy belga f\u00e9rfi emiatt meg is halt, az ESET szerint pedig biztons\u00e1gi probl\u00e9m\u00e1t jelentenek az ilyen rendszerek. Az is \u00e9rdekes volt, amikor m\u00e1rciusban megjelent egy oktat\u00e1ssal foglalkoz\u00f3 foly\u00f3iratban egy tanulm\u00e1ny, ami amellett \u00e9rvelt, hogy a mesters\u00e9ges intelligencia (MI) \u00e9s az azt kiakn\u00e1z\u00f3 csetbotok elterjed\u00e9se megk\u00f6nny\u00edti a csal\u00e1st \u00e9s a plagiz\u00e1l\u00e1st a di\u00e1kok sz\u00e1m\u00e1ra. Ugyan h\u00e1rom l\u00e9tez\u0151 kutat\u00f3 lett megnevezve szerz\u0151k\u00e9nt, a tanulm\u00e1nyt val\u00f3j\u00e1ban egy csetbot \u00edrta.<\/p>\n\n\n\n

Forr\u00e1s<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Hat mesters\u00e9ges intelligencia-eszk\u00f6zt, k\u00f6zt\u00fck az OpenAI ChatGPT-j\u00e9t is arra haszn\u00e1lt\u00e1k ki, hogy olyan k\u00f3dot \u00edrjanak, amely k\u00e9pes k\u00e1ros\u00edtani a kereskedelmi adatb\u00e1zisokat,\u00a0\u00edrja a New Scientist. \u00dagy t\u0171nik, hogy OpenAI az\u00f3ta jav\u00edtotta a biztons\u00e1gi r\u00e9st, a t\u00f6bbi eszk\u00f6z azonban val\u00f3sz\u00edn\u0171leg tov\u00e1bbra is tud hackereset j\u00e1tszani.<\/p>\n","protected":false},"author":4,"featured_media":167047,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15,41,49,590,39],"tags":[16010,440874],"class_list":["post-167046","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-a-nap-hirei","category-cikkek","category-hirek","category-it-hu","category-vilag","tag-adatlopas","tag-chatgpt"],"_links":{"self":[{"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/posts\/167046","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=167046"}],"version-history":[{"count":1,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/posts\/167046\/revisions"}],"predecessor-version":[{"id":167048,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/posts\/167046\/revisions\/167048"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=\/wp\/v2\/media\/167047"}],"wp:attachment":[{"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=167046"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=167046"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/life.karpat.in.ua\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=167046"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}