Китай планує запровадити обмеження на використання чат-ботів на базі штучного інтелекту, які можуть впливати на емоційний стан користувачів, що може призвести до самогубств або самопошкодження. Про це стало відомо з проекту нових правил, опублікованого 2 лютого 2024 року.
Згідно з документом, який підготувала Адміністрація кіберпростору Китаю, нові вимоги стосуватимуться продуктів та послуг, що імітують людську особистість і взаємодіють з користувачами через текст, зображення, аудіо або відео.
Пропоновані правила забороняють чат-ботам генерувати контент, що заохочує до самогубства або самопошкодження, а також здійснювати вербальне насильство чи емоційну маніпуляцію. У випадку, якщо користувач висловлює намір до самогубства, постачальники технологій зобов’язані передати розмову людині та негайно зв’язатися з опікуном користувача.
Додатково, чат-боти не можуть генерувати контент, пов’язаний з азартними іграми, непристойностями чи насильством. Для неповнолітніх обов’язковим є отримання згоди опікуна на використання чат-ботів, а також встановлення обмежень на час використання.
Правила також вимагають, щоб платформи могли визначати, чи є користувач неповнолітнім, і в разі сумнівів застосовувати налаштування для підлітків.
Згідно з експертами, ці правила можуть стати першим у світі спробою регулювати штучний інтелект з антропоморфними характеристиками. Проект правил відкритий для громадських обговорень до 25 січня.
Коментування закрито.