Be fogja árulni a gyerekeket szüleiknek a ChatGPT ha azok rosszat terveznek

Az OpenAI chatbotját, a ChatGPT-t használó gyerekek szülei hamarosan egy szokatlan forrásból értesülhetnek majd arról, ha porontyaik valami olyasmit tesznek, amit nem lenne szabad nekik. Ugyanis maga a mesterséges intelligenciás chatbot fog figyelmeztetés küldeni nekik, ha a gyerekeket a fenyegetésekre vagy erőszakos cselekményekre vonatkozó szabályok megsértésén kapják a szolgáltatásban.

Az új értesítések a ChatGPT-n még tavaly bevezetett szülői felügyeleti eszközök bővítéseként jelenik meg, és azokon a fiókokon fog működni, amiket a szülők korábban összekapcsoltak sajátjaikkal. Ezek vonatkozásában már eddig is meg lehetett adni bizonyos korlátozásokat a chatbot használatára vonatkozóan – pl. hogy naponta mennyit lehet csevegni vele, vagy pontosan mely időszakokban –, de mostantól a vállalat aktívan értesíteni is fogja a szülőket a bennük elkövetett szabálysértésekről.

Bár az OpenAI hivatalos bejelentésében nem említi, de a fejlesztést nyilvánvalóan azokra a közelmúltban vele szemben indított perekre válaszul vezeti be, amik a szülők azért indítottak, mert meglátásuk szerint a ChatGPT elősegítette vagy akár rávette erre hajlamos gyerekeiket, hogy öngyilkosságot vagy más erőszakos cselekményt kövessenek el magukkal vagy másokkal szemben.

A funkció megvalósításában az OpenAI a Moonshot nevű céggel működött együtt, amely az online erőszak monitorozására és megelőzésére szakosodott. A két vállalat azt állítja, hogy az értesítések révén a szülők időben közbeléphetnek majd, és szakemberek segítségét kérhetik az említett problémákkal küzdő gyerekeik részére.

A Meta egyébként egy szinte ugyanilyen fejlesztést jelentett be a saját mesterséges intelligenciás eszközeihez is, amiket azonban sokkal kevesebben használnak, mint a ChatGPT szolgáltatását.

(hvg.hu)