A Meta új szülői felügyeleti rendszert indít el: figyelmezteti a szülőket a gyermekek veszélyes kéréseire

A Meta új szülői felügyeleti rendszert indít: ha egy tinédzser öngyilkosságról vagy önkárosításról kommunikál egy mesterséges intelligenciával, a felnőttek figyelmeztetéseket és szakértői tanácsokat kapnak. Az új funkció, az úgynevezett Értesítések szülőknek, az Instagram szülői felügyeleti funkcióját használó felhasználók számára lesz elérhető az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában. A Meta tervei szerint az év végére világszerte elérhetővé teszi a felhasználók számára.

Az értesítést követően a szülők nemcsak a potenciálisan veszélyes beszélgetésről kapnak tájékoztatást, hanem mentálhigiénés szakemberek ajánlásait is. Segíteniük kell nekik abban, hogy a megfelelő módon beszélhessenek gyermekükkel az állapotáról és a lehetséges problémákról.

A Meta kijelentette, hogy a kockázatos beszélgetések észlelésére szolgáló rendszert szülőkkel és szakértőkkel együttműködve fejlesztették ki. A mesterséges intelligencia elemzi a beszélgetéseket, és azonosítja azokat az eseteket, amelyek figyelmet igényelhetnek. Ugyanakkor minden egyes beszélgetést, amelyet a rendszer potenciálisan veszélyesnek jelöl, egy ember ellenőriz, mielőtt elküldené az üzenetet. „Ha a tinédzser szándékai továbbra sem világosak, az óvatosság elve alapján járunk el” – jegyezte meg a társaság.

A Meta azt is közölte, hogy egy olyan funkción dolgozik, amely lehetővé teszi a sürgősségi szolgálatok értesítését, ha a Meta AI-val folytatott beszélgetés közvetlen veszélyt jelez a felhasználó életére. A vállalat továbbra is finomítja AI-eszközeinek öngyilkossággal és önkárosítással kapcsolatos kérdéseire adott válaszait, a serdülőkori mentális egészségügyi szakértők bevonásával.

Az OpenAI korábban hasonló intézkedéseket jelentett be. A vállalat beszámolt a ChatGPT szülői felügyeletének bevezetéséről, valamint a 18 év alatti felhasználók számára készült speciális beállításokról, amelyek további korlátozásokat tartalmaznak az érzékeny tartalmakra vonatkozóan.