Скандал із штучним інтелектом: він пропонував дітям вбити своїх батьків

11 декабря 2024
Петро Гаврищак
2351

Технології

Скандал із штучним інтелектом: він пропонував дітям вбити своїх батьків

У матеріалі йдеться про те, що один чат-бот нібито запропонував 15-річному підлітку вбити своїх батьків за те, що вони обмежили використання ним інтернету.

У судовому позові також розповідається про швидкий розумовий і фізичний занепад двох підлітків, котрі використовували ботів Character.AI.

Перший позивач описаний як “типова дитина з високофункціональним аутизмом”, яка почала використовувати додаток приблизно у квітні 2023 року, у віці 15 років, без відома батьків.

Протягом 15 годин розмов зі штучним інтелектом підліток розповідав про розчарування своєю родиною, яка не дозволяла йому користуватися соцмережами. Багато ботів висловлювали співчуття, а один сказав, що “ваше дитинство було кврадено у вас”.

Читайте по темі: Південнокорейська SK Hynix інвестує майже $75 мільярдів у штучний інтелект та виробництво чипів

Юристи стверджують, що за шість місяців використання програми дитина стала зневіреною, замкнутою та сердитою. Хлопець схуд на 20 фунтів до того часу, коли батьки виявили його обліковий запис.

“Ми не коментуємо незавершені судові процеси, – сказав представник Character.AI в електронному листі до Popular Science. – Наша мета – створити простір, який буде привабливим і безпечним для нашої спільноти. Ми постійно працюємо над досягненням цього балансу, як і багато компаній, які використовують ШІ в галузі”.