Meta запустить функцію попередження батьків про небезпечні запити дітей

Meta запускає нову систему контролю для батьків: якщо підліток спілкуватиметься з ШІ про самогубство чи самоушкодження, дорослі отримають попередження та поради від фахівців.

Нова можливість під назвою Повідомлення для батьків стане доступною для користувачів батьківського контролю в Instagram у США, Великій Британії, Австралії та Канаді. До кінця року Meta планує запустити її для користувачів по всьому світу.

Після сповіщення батьки отримуватимуть не лише інформацію про потенційно небезпечну розмову, а й рекомендації від спеціалістів із психічного здоров’я. Вони мають допомогти правильно поговорити з дитиною про її стан та можливі проблеми.

У Meta заявили, що систему виявлення ризикових діалогів створювали разом із батьками та експертами. ШІ аналізуватиме спілкування та визначатиме випадки, які можуть потребувати уваги. Водночас кожну розмову, яку система позначить як потенційно небезпечну, перед відправленням повідомлення перевірятиме людина.

«Якщо наміри підлітка залишатимуться незрозумілими, ми діятимемо за принципом обережності», — зазначили в компанії.

У Meta також повідомили, що працюють над функцією, яка дозволить звертатися до служб екстреної допомоги, якщо спілкування з Meta AI вказуватиме на безпосередню загрозу життю користувача.

Крім того, компанія продовжує вдосконалювати реакцію своїх ШІ-інструментів на запити про самогубство та самоушкодження за участі експертів із психічного здоров’я підлітків.

Раніше подібні заходи анонсувала й OpenAI. Компанія повідомляла про запуск батьківського контролю в ChatGPT, а також спеціальні налаштування для користувачів молодших за 18 років із додатковими обмеженнями для чутливого контенту.