Американка Дженніфер Енн Кресенте була вбита у 2006 році колишнім хлопцем. У середу вранці батько дівчини прокинувся і побачив на своєму телефоні сповіщення Google Alert про свою доньку. Так Дрю Креченте дізнався, що його покійна Дженніфер з’явилася в інтернеті як чат-бот зі штучним інтелектом на сайті Character.ai.
Кресенте не мав жодного уявлення про те, хто і коли створив чат-бот. Того ранку Google проіндексував бота і надіслав чоловіку сповіщення, яке він налаштував, щоб відстежувати будь-які згадки про Дженніфер або його неприбуткову організацію, яка працює над підвищенням обізнаності про насильство підлітків на побаченнях.
Чат-боти Character.ai зазвичай створюються користувачами, які можуть завантажувати імена, фотографії та іншу інформацію про персонаж.
У випадку з Дженніфер Енн бот використав її ім’я та фотографію з випускного альбому, описавши її як «обізнаного та доброзичливого персонажа зі штучним інтелектом, який може надати інформацію з широкого кола тем».
Коли Кресенте виявив бота, профіль показував, що його вже використовували щонайменше у 69 чатах.
На сторінці профілю Дженніфер Енн вказано, що вона є журналісткою, яка займається відеоіграми. Її дядько, Браян, — ігровий репортер та редактор.
На сайті Дженніфер Енн також вказано, що вона є «експертом у галузі журналістики», який спеціалізується на новинах про відеоігри. Її дядько, Браян Кресенте, заснував сайт ігрових новин Kotaku і став співзасновником сайту-конкурента Polygon.
Дрю Кресенте зв’язався з Character.ai через форму підтримки клієнтів та попросив компанію видалити чат-бота і зберегти всі дані про те, хто завантажив профіль.
«Я хотів переконатися, що вони вжили заходів, щоб у майбутньому не було створено жодного іншого облікового запису, в якому використовується ім’я моєї доньки чи образ моєї дочки», — сказав чоловік Business Insider.
Він отримав автоматичну відповідь із номером його справи, але без додаткової інформації.
Його брат Браян того ранку написав у Х гнівне повідомлення про чат-бота, попросивши майже 31 000 підписників допомогти «припинити таку жахливу практику».
«Це огидно: @character_ai використовує мою вбиту племінницю як обличчя штучного інтелекту у відеогрі без дозволу її тата. Зараз він дуже засмучений. Я не можу уявити, що він переживає. Будь ласка, допоможіть нам припинити таку жахливу практику», — написав дядько вбитої дівчини.
Character.ai відповів на публікацію Браяна на X через півтори години. Компанія написала, чат-бот дівчини був видалений, оскільки він порушував їхню політику щодо видавання себе за іншу особу.
Але Кресенте каже, що він не отримав нічого, крім мовчання від компанії, на своє звернення.
«Частиною того, що так обурює, є те, що справа стосується не лише мене чи моєї дочки», — сказав Кресенте. «Це стосується всіх тих людей, які можуть не мати платформи, можуть не мати голосу, можуть не мати брата, який би був журналістом».
Речник Character.ai Кессі Лоуренс підтвердила BI, що чат-бот був видалений, і сказала, що компанія «перевірить, чи виправдані подальші дії».
«Character.ai серйозно ставиться до безпеки на нашій платформі та модерує Персонажів як проактивно, так і у відповідь на повідомлення користувачів. У нас є спеціальна команда з довіри та безпеки, яка переглядає звіти та вживає заходів відповідно до нашої політики», — сказала вона.
Однак Кресенте вважає, що компанія повинна була вибачитися і показати, що вона і надалі буде захищати особистість його дочки. Зараз він шукає юридичні варіанти вирішення цього питання.
