A Meta elindított egy új funkciót, amely értesíti a szülőket, ha egy tinédzser öngyilkossággal vagy önkárosítással kapcsolatos témákat beszél meg a Meta AI chatbotjával. Az eszköz mostantól elérhető a kanadai, az Egyesült Királyságbeli, az Egyesült Államokbeli és ausztráliai felhasználók számára – jelentette be a cég blogjában.
Az új funkció azok szülők esetében működik, akik engedélyezték a szülői felügyeletet gyermekeik Instagram-fiókjain. Ha a rendszer válság jeleit észleli a tinédzser a Meta AI-val folytatott beszélgetéseiben, a szülők értesítést kapnak az eszközükre. Ez a vállalat bármely platformján, a chatbottal folytatott kommunikációra vonatkozik – Instagramon, WhatsAppon, Facebook Messengeren, valamint a különálló Meta.ai weboldalon keresztül.
Az új funkció a meglévő biztonsági intézkedésekre épül. Korábban, ha egy tinédzser önkárosítási vagy öngyilkossági gondolatokat jelentett a chatbotnak, a Meta AI krízishelyzet esetén elérhetőségeket javasolt, és azt tanácsolta, hogy forduljon szülőhöz vagy más megbízható felnőtthöz. A szülők értesítést is kaptak, ha egy tinédzser ismételten önkárosítással vagy öngyilkossággal kapcsolatos információkat keresett az Instagramon.
A Meta azt is közölte, hogy egy másik eszközön is dolgoznak már, amely lehetővé tenné a sürgősségi szolgálatok értesítését, ha a felnőttek és tinédzserek közötti chatbottal folytatott beszélgetések az öngyilkosság magas kockázatát jelzik.
A Meta kijelentette, az első fázisban a rendszer maximális óvatossággal fog működni, és értesítéseket küld majd még azokban az esetekben is, amikor a tinédzser szándékai továbbra sem egyértelműek.
„Bár ez azt jelenti, hogy néha a szülőket akkor is értesíthetjük, ha nincs valódi ok az aggodalomra, úgy gondoljuk, hogy ez egy jó kiindulópont, és továbbra is figyelemmel kísérjük a rendszert, hogy biztosítsuk a megfelelő működését”, jelentette ki a vállalat.
A Meta új funkciója a mesterséges intelligencia által támogatott chatbotok fiatalok mentális egészségügyi válságaiban betöltött szerepére irányuló fokozott figyelem közepette jelenik meg.
Az OpenAI többek között elmondta, hogy hat hónappal a kanadai tömeges lövöldözés előtt megjelölte és blokkolta a támadásban részt vevő tinédzser fiókját „zavaró tartalom” miatt, de akkoriban nem jelentette a rendőrségnek.
Ezenkívül a tavaly öngyilkosságot elkövetett amerikai tinédzser, Adam Raine családja pert indított az OpenAI ellen, azt állítva, hogy a chatbot hozzájárult a halálához.
Az OpenAI azóta szülői felügyeleti funkciókat is bevezetett, beleértve a Meta megoldásához hasonló mechanizmust, amely értesíti a szülőket, ha egy tinédzser beszélgetései a chatbottal a súlyos önkárosítás magas kockázatát jelzik, vagy ha a gyermek fiókját erőszakos cselekmények megvitatása miatt blokkolják.
BREAKING: Note allegedly written by Epstein before his first suicide attempt has been released after being obtained by the NYT.
“They investigated me for a month - found nothing!!! So 16 year old charge results. It is a treat to be able to choose one’s time to say goodbye.… pic.twitter.com/Kt44NoQFIm
A Meta új szülői felügyeleti rendszert indít: ha egy tinédzser öngyilkosságról vagy önkárosításról kommunikál egy mesterséges intelligenciával, a felnőttek figyelmeztetéseket és szakértői tanácsokat kapnak. Az új funkció, az úgynevezett Értesítések szülőknek, az Instagram szülői felügyeleti funkcióját használó felhasználók számára lesz elérhető az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában. A Meta tervei szerint az év végére világszerte elérhetővé teszi a felhasználók számára.
Az értesítést követően a szülők nemcsak a potenciálisan veszélyes beszélgetésről kapnak tájékoztatást, hanem mentálhigiénés szakemberek ajánlásait is. Segíteniük kell nekik abban, hogy a megfelelő módon beszélhessenek gyermekükkel az állapotáról és a lehetséges problémákról.
A Meta kijelentette, hogy a kockázatos beszélgetések észlelésére szolgáló rendszert szülőkkel és szakértőkkel együttműködve fejlesztették ki. A mesterséges intelligencia elemzi a beszélgetéseket, és azonosítja azokat az eseteket, amelyek figyelmet igényelhetnek. Ugyanakkor minden egyes beszélgetést, amelyet a rendszer potenciálisan veszélyesnek jelöl, egy ember ellenőriz, mielőtt elküldené az üzenetet. „Ha a tinédzser szándékai továbbra sem világosak, az óvatosság elve alapján járunk el” – jegyezte meg a társaság.
A Meta azt is közölte, hogy egy olyan funkción dolgozik, amely lehetővé teszi a sürgősségi szolgálatok értesítését, ha a Meta AI-val folytatott beszélgetés közvetlen veszélyt jelez a felhasználó életére. A vállalat továbbra is finomítja AI-eszközeinek öngyilkossággal és önkárosítással kapcsolatos kérdéseire adott válaszait, a serdülőkori mentális egészségügyi szakértők bevonásával.
Az OpenAI korábban hasonló intézkedéseket jelentett be. A vállalat beszámolt a ChatGPT szülői felügyeletének bevezetéséről, valamint a 18 év alatti felhasználók számára készült speciális beállításokról, amelyek további korlátozásokat tartalmaznak az érzékeny tartalmakra vonatkozóan.
