A Meta értesíti a szülőket, ha tinédzserek öngyilkosságról beszélgetnek a chatbottal

A Meta elindított egy új funkciót, amely értesíti a szülőket, ha egy tinédzser öngyilkossággal vagy önkárosítással kapcsolatos témákat beszél meg a Meta AI chatbotjával. Az eszköz mostantól elérhető a kanadai, az Egyesült Királyságbeli, az Egyesült Államokbeli és ausztráliai felhasználók számára – jelentette be a cég blogjában.

Az új funkció azok szülők esetében működik, akik engedélyezték a szülői felügyeletet gyermekeik Instagram-fiókjain. Ha a rendszer válság jeleit észleli a tinédzser a Meta AI-val folytatott beszélgetéseiben, a szülők értesítést kapnak az eszközükre. Ez a vállalat bármely platformján, a chatbottal folytatott kommunikációra vonatkozik – Instagramon, WhatsAppon, Facebook Messengeren, valamint a különálló Meta.ai weboldalon keresztül.

Az új funkció a meglévő biztonsági intézkedésekre épül. Korábban, ha egy tinédzser önkárosítási vagy öngyilkossági gondolatokat jelentett a chatbotnak, a Meta AI krízishelyzet esetén elérhetőségeket javasolt, és azt tanácsolta, hogy forduljon szülőhöz vagy más megbízható felnőtthöz. A szülők értesítést is kaptak, ha egy tinédzser ismételten önkárosítással vagy öngyilkossággal kapcsolatos információkat keresett az Instagramon.

A Meta azt is közölte, hogy egy másik eszközön is dolgoznak már, amely lehetővé tenné a sürgősségi szolgálatok értesítését, ha a felnőttek és tinédzserek közötti chatbottal folytatott beszélgetések az öngyilkosság magas kockázatát jelzik.

A Meta kijelentette, az első fázisban a rendszer maximális óvatossággal fog működni, és értesítéseket küld majd még azokban az esetekben is, amikor a tinédzser szándékai továbbra sem egyértelműek.

„Bár ez azt jelenti, hogy néha a szülőket akkor is értesíthetjük, ha nincs valódi ok az aggodalomra, úgy gondoljuk, hogy ez egy jó kiindulópont, és továbbra is figyelemmel kísérjük a rendszert, hogy biztosítsuk a megfelelő működését”, jelentette ki a vállalat.

A Meta új funkciója a mesterséges intelligencia által támogatott chatbotok fiatalok mentális egészségügyi válságaiban betöltött szerepére irányuló fokozott figyelem közepette jelenik meg.

Az OpenAI többek között elmondta, hogy hat hónappal a kanadai tömeges lövöldözés előtt megjelölte és blokkolta a támadásban részt vevő tinédzser fiókját „zavaró tartalom” miatt, de akkoriban nem jelentette a rendőrségnek.

Ezenkívül a tavaly öngyilkosságot elkövetett amerikai tinédzser, Adam Raine családja pert indított az OpenAI ellen, azt állítva, hogy a chatbot hozzájárult a halálához.

Az OpenAI azóta szülői felügyeleti funkciókat is bevezetett, beleértve a Meta megoldásához hasonló mechanizmust, amely értesíti a szülőket, ha egy tinédzser beszélgetései a chatbottal a súlyos önkárosítás magas kockázatát jelzik, vagy ha a gyermek fiókját erőszakos cselekmények megvitatása miatt blokkolják.