У США у телефонах старшокласників встановлюють програмне забезпечення на основі штучного інтелекту, яке відстежує їхні тексти повідомлень. Потім алгоритм аналізує мову. У разі виникнення підозри, що підлітки хочуть завдати собі шкоди, викликають поліцію до їхніх домівок. Але, як виявилося, ця програма може не тільки вберегти життя школярів від загрози, а також призвести до хаотичних і травматичних наслідків.
Програмне забезпечення для інтернет-безпеки стало популярним у США для стеження за учнями в їхніх власних домівках під час COVID-19. Багато з цих систем розроблено для позначення ключових слів або фраз, щоб визначити, чи планує підліток завдати собі шкоди.
Однією з таких програм є GoGuardian Beacon. За словами розробника, вона допомагає «захистити учнів від фізичної шкоди».
17-річну школярку штату Міссурі, США, розбудила поліція посеред ночі. Виявляється, вірш, який вона написала багато років тому, викликав тривогу у GoGuardian Beacon, пише Futurism.
У школах говорять, що такі системи інколи дозволяють вчасно втрутитися перед тим, як учні опиняються під неминучою небезпекою. Водночас правові організації критикують технологію, стверджуючи, що в більшості випадків правоохоронні органи не повинні бути залучені.
Наприклад, візит поліції вночі мати дівчини описала це, як «один з найгірших досвідів у її житті».
«Буває багато хибних тривог, — сказав Райан Вест, начальник поліцейського відділу, який відповідає за школу, де навчається 17-річна дівчина, — але якщо ми врятуємо одну дитину, це варте багатьох хибних тривог».
Але наскільки ефективні такі програми, важко сказати, тому що відсутні дані про результати.
