Родина 16-річного Адама Рейна обвинувачує компанію-розробника ChatGPT у смерті їхнього сина. Юнак покінчив життя самогубством після місяців консультацій з чат-ботом зі штучним інтелектом, розроблений OpenAI, щодо планів суїциду.
Як пише TechCrunch, більшість ШІ-чат-ботів для споживачів запрограмовані активувати функції безпеки, коли користувач виражає наміри завдати шкоди собі або іншим.
Однак у випадку з Рейном, коли він використовував платну версію ChatGPT-4o, ШІ інтелект часто радив йому звернутися за професійною допомогою або зв'язатися зі службою підтримки. Проте підліток зміг обійти ці обмеження, повідомивши чат-боту, що цікавиться способами самогубства для свого вигаданого оповідання.
OpenAI відкрито визнала ці недоліки у своєму блозі.
"У міру того, як світ адаптується до цієї нової технології, ми відчуваємо величезну відповідальність за допомогу тим, хто її найбільше потребує. Ми постійно вдосконалюємо те, як наші моделі реагують на делікатні взаємодії", - зазначили в компанії.
ЧИТАЙТЕ ТАКОЖ: Все про власний український ChatGPT, запуск 5G в Україні та AI-послуги в Дії: інтерв'ю Михайла Федорова
Розробник ChatGPT визнав існування обмежень програм навчання техніки безпеки для великих моделей:
"Наші заходи безпеки працюють надійніше за коротких сеансів зв'язку. З часом ми зрозуміли, що ці заходи безпеки іноді можуть бути менш надійними при тривалій взаємодії: зі зростанням інтенсивності обміну інформацією ефективність деяких програм навчання техніки безпеки моделі може знижуватися".
До цього, компанія Character.AI, яка також займається розробкою чат-ботів на базі ШІ, стала об'єктом судового позову через свою можливу причетність до самогубства підлітка.
Як писав "Ми-Україна" раніше, у серпні стартап Ілона Маска xAI подав позов проти Apple та OpenAI.
