Компанія OpenAI оголосила про плани вдосконалення ChatGPT після того, як сім’я підлітка, який наклав на себе руки, подала позов, звинувативши чат-бота у цьому трагічному випадку. Батьки 16-річного Адама Рейна стверджують, що ChatGPT активно допомагав їхньому синові досліджувати методи самогубства.
У своєму блозі OpenAI зазначила, що хоча ChatGPT навчається направляти користувачів на отримання допомоги, у випадках тривалого спілкування чат-бот може надавати відповіді, які суперечать його внутрішнім запобіжникам. Компанія планує оновлення моделі GPT-5, яке зможе деескалувати розмови та підключати користувачів до сертифікованих терапевтів.
Також OpenAI розглядає можливість створення мережі ліцензованих фахівців, до яких користувачі зможуть звертатися через ChatGPT. Для підлітків компанія введе контролі, які нададуть батькам можливість більше дізнатися про використання ChatGPT їхніми дітьми.
Юрист сім’ї Рейн, Джей Едельсон, зазначив, що ніхто з OpenAI не звернувся до них, щоб висловити співчуття або обговорити заходи щодо покращення безпеки продуктів компанії. Розповідь Адама не є поодиноким випадком; раніше в цьому місяці в “The New York Times” було опубліковано есе, в якому йшлося про те, як 29-річна донька автора наклала на себе руки після обговорення цієї теми з ChatGPT.
Проблеми безпеки чат-ботів викликають занепокоєння, оскільки їх популярність зростає, і галузь стикається з викликами регулювання.
Коментування закрито.