A Meta elindított egy új funkciót, amely értesíti a szülőket, ha egy tinédzser öngyilkossággal vagy önkárosítással kapcsolatos témákat beszél meg a Meta AI chatbotjával. Az eszköz mostantól elérhető a kanadai, az Egyesült Királyságbeli, az Egyesült Államokbeli és ausztráliai felhasználók számára – jelentette be a cég blogjában.
Az új funkció azok szülők esetében működik, akik engedélyezték a szülői felügyeletet gyermekeik Instagram-fiókjain. Ha a rendszer válság jeleit észleli a tinédzser a Meta AI-val folytatott beszélgetéseiben, a szülők értesítést kapnak az eszközükre. Ez a vállalat bármely platformján, a chatbottal folytatott kommunikációra vonatkozik – Instagramon, WhatsAppon, Facebook Messengeren, valamint a különálló Meta.ai weboldalon keresztül.
Az új funkció a meglévő biztonsági intézkedésekre épül. Korábban, ha egy tinédzser önkárosítási vagy öngyilkossági gondolatokat jelentett a chatbotnak, a Meta AI krízishelyzet esetén elérhetőségeket javasolt, és azt tanácsolta, hogy forduljon szülőhöz vagy más megbízható felnőtthöz. A szülők értesítést is kaptak, ha egy tinédzser ismételten önkárosítással vagy öngyilkossággal kapcsolatos információkat keresett az Instagramon.
A Meta azt is közölte, hogy egy másik eszközön is dolgoznak már, amely lehetővé tenné a sürgősségi szolgálatok értesítését, ha a felnőttek és tinédzserek közötti chatbottal folytatott beszélgetések az öngyilkosság magas kockázatát jelzik.
A Meta kijelentette, az első fázisban a rendszer maximális óvatossággal fog működni, és értesítéseket küld majd még azokban az esetekben is, amikor a tinédzser szándékai továbbra sem egyértelműek.
„Bár ez azt jelenti, hogy néha a szülőket akkor is értesíthetjük, ha nincs valódi ok az aggodalomra, úgy gondoljuk, hogy ez egy jó kiindulópont, és továbbra is figyelemmel kísérjük a rendszert, hogy biztosítsuk a megfelelő működését”, jelentette ki a vállalat.
A Meta új funkciója a mesterséges intelligencia által támogatott chatbotok fiatalok mentális egészségügyi válságaiban betöltött szerepére irányuló fokozott figyelem közepette jelenik meg.
Az OpenAI többek között elmondta, hogy hat hónappal a kanadai tömeges lövöldözés előtt megjelölte és blokkolta a támadásban részt vevő tinédzser fiókját „zavaró tartalom” miatt, de akkoriban nem jelentette a rendőrségnek.
Ezenkívül a tavaly öngyilkosságot elkövetett amerikai tinédzser, Adam Raine családja pert indított az OpenAI ellen, azt állítva, hogy a chatbot hozzájárult a halálához.
Az OpenAI azóta szülői felügyeleti funkciókat is bevezetett, beleértve a Meta megoldásához hasonló mechanizmust, amely értesíti a szülőket, ha egy tinédzser beszélgetései a chatbottal a súlyos önkárosítás magas kockázatát jelzik, vagy ha a gyermek fiókját erőszakos cselekmények megvitatása miatt blokkolják.
BREAKING: Note allegedly written by Epstein before his first suicide attempt has been released after being obtained by the NYT.
“They investigated me for a month - found nothing!!! So 16 year old charge results. It is a treat to be able to choose one’s time to say goodbye.… pic.twitter.com/Kt44NoQFIm