Платформа Character AI, яка дає змогу користувачам комунікувати з персоналізованими чат-ботами із ШІ, подала клопотання про закриття справи, порушеної проти неї батьком підлітка, який наклав на себе руки після того, як нібито «підсів» на технологію компанії. Які аргументи в Character AI.
У жовтні Меган Гарсія подала позов проти Character AI до окружного суду Середнього округу Флориди (Орландо) у зв’язку зі смертю свого сина Сьюелла Сетцера III. За словами Гарсії, її 14-річний син емоційно прив’язався до чат-бота Character AI на ім’я «Дені», з яким постійно переписувався — до такої міри, що почав відриватися від реального світу.
Після смерті Сетцера компанія Character AI заявила, що впровадить низку нових функцій безпеки, зокрема покращить виявлення, реагування та втручання в чати, які порушують умови користування. Але Гарсія бореться за додаткові запобіжники, включаючи зміни, які можуть призвести до того, що чат-боти на Character AI втратять здатність розповідати історії та персоналізовані анекдоти.
Як повідомляє TechCrunch, адвокат Character AI стверджує, що платформа захищена від відповідальності Першою поправкою до Конституції США, так само як і комп’ютерний код.
«Перша поправка забороняє деліктну відповідальність проти медіа та технологічних компаній за нібито шкідливі висловлювання, в тому числі за висловлювання, які нібито призвели до самогубства. Єдина відмінність цієї справи від попередніх полягає в тому, що частина висловлювань тут пов’язана зі штучним інтелектом. Але контекст експресивного мовлення — чи то розмова зі штучним інтелектом, чи то взаємодія з персонажем відеоігор — не змінює аналізу Першої поправки», — йдеться в клопотанні.
При цьому адвокат Character AI не стверджує, що компанія має право на Першу поправку до Конституції. Формулювання натякає, що саме в користувачів Character AI будуть порушені права Першої поправки, якщо позов проти платформи буде успішним.
Адвокат Character AI також стверджує, що справжнім наміром Гарсії є «закрити» Character AI й прискорити прийняття законодавства, що регулює подібні технології. Якщо позивачі досягнуть успіху, це сповільнить розвиток Character AI, так і для всієї індустрії генеративного ШІ, що тільки зароджується, стверджує юрист платформи.
«Окрім заявленого адвокатами наміру „закрити“ Character AI, [їхня скарга] спрямована на радикальні зміни, які суттєво обмежать характер і обсяг мовлення на платформі. Ці зміни радикально обмежать можливості мільйонів користувачів Character AI створювати та брати участь у розмовах із персонажами», — заявив адвокат стартапу.
