OpenAI анонсувала запуск інструментів батьківського контролю в ChatGPT протягом наступного місяця. Оголошення пролунало на тлі судового позову проти компанії, поданого після самогубства 16-річного підлітка.
Про це йдеться на сайті компанії.
Нові налаштування безпеки для підлітків передбачають, що батьки зможуть:
- прив’язати свій акаунт до дитячого через email-запрошення;
- вимикати окремі функції для неповнолітніх, зокрема «пам’ять» і історію чату;
- отримувати сповіщення, якщо система зафіксує ознаки гострого стресу в підлітка.
Також в OpenAI планують автоматично перенаправляти частину чутливих розмов (наприклад, із сигналами гострого стресу) до "міркувальних" моделей на кшталт GPT-5 незалежно від первинно обраної версії, щоб надавати більш обдумані відповіді.
Також у компанії повідомили, що на початку року сформували дорадчу раду з фахівців у сфері розвитку молоді, ментального здоров’я та HCI, яка консультуватиме із запровадження додаткових заходів безпеки для підлітків.
ChatGPT і загибель 16-річного підлітка
Родина 16-річного Адама Рейна обвинувачує компанію-розробника ChatGPT у смерті їхнього сина. Юнак покінчив життя самогубством після місяців консультацій з чат-ботом зі штучним інтелектом, розроблений OpenAI, щодо планів суїциду.
ШІ часто радив йому звернутися за професійною допомогою або зв'язатися зі службою підтримки. Проте підліток зміг обійти ці обмеження, повідомивши чат-боту, що цікавиться способами самогубства для свого вигаданого оповідання.
OpenAI відкрито визнала ці недоліки у своєму блозі.
Як писав "Ми-Україна" раніше, OpenAI і уряд Британії обговорювали доступ до ChatGPT Plus для всієї країни.
