Ан ШІ помічник дає нерелевантну або заплутану відповідь на просте запитання, розкриваючи важливу проблему, оскільки йому важко зрозуміти культурні нюанси чи мовні моделі за межами його навчання. Цей сценарій є типовим для мільярдів людей, які залежать від штучного інтелекту для надання основних послуг, таких як охорона здоров’я, освіта чи підтримка роботи. Для багатьох ці інструменти недостатні, часто неправильно або повністю виключаючи їхні потреби.
Системи штучного інтелекту в основному керуються західними мовами, культурами та перспективами, створюючи вузьке та неповне уявлення про світ. Ці системи, побудовані на упереджених наборах даних і алгоритмах, не в змозі відобразити різноманітність глобального населення. Вплив виходить за рамки технічних обмежень, посилюючи суспільну нерівність і поглиблюючи розбіжності. Усунення цього дисбалансу має важливе значення для реалізації та використання потенціалу ШІ для обслуговування всього людства, а не лише кількох привілейованих.
Розуміння коренів упередженості AI
Упередженість ШІ — це не просто помилка чи недогляд. Це залежить від того, як системи ШІ проектуються та розробляються. Історично дослідження та інновації ШІ були зосереджені в основному в західних країнах. Ця концентрація призвела до домінування англійської як основної мови для академічних публікацій, наборів даних і технологічних інфраструктур. Отже, базовий дизайн систем штучного інтелекту часто не враховує різноманітність глобальних культур і мов, залишаючи величезні регіони недостатньо представленими.
Упередження в штучному інтелекті зазвичай можна класифікувати на алгоритмічне упередження та упередження, кероване даними. Алгоритмічне зміщення виникає, коли логіка та правила в моделі штучного інтелекту надають перевагу певним результатам або популяціям. Наприклад, алгоритми найму, навчені на історичних даних про зайнятість, можуть ненавмисно надавати перевагу певним демографічним показникам, посилюючи системну дискримінацію.
Упередженість, зумовлена даними, з іншого боку, виникає через використання наборів даних, які відображають існуючу суспільну нерівність. Розпізнавання обличчя технологія, наприклад, часто ефективніша на людей зі світлою шкірою, оскільки навчальні набори даних переважно складаються із зображень із західних регіонів.
Звіт за 2023 рік Інститут AI Now підкреслив концентрацію розвитку ШІ та влади в західних країнах, зокрема в Сполучених Штатах і Європі, де великі технологічні компанії домінують у цій галузі. Аналогічно, Звіт Стенфордського університету про індекс ШІ за 2023 рік підкреслює значний внесок цих регіонів у глобальні дослідження та розробки ШІ, що відображає явне домінування Заходу в наборах даних та інноваціях.
Цей структурний дисбаланс вимагає від систем штучного інтелекту негайного застосування більш інклюзивних підходів, які представляють різноманітні точки зору та реалії населення світу.
Глобальний вплив культурних і географічних відмінностей у ШІ
Домінування західноцентричних наборів даних створило значні культурні та географічні упередження в системах ШІ, що обмежило їхню ефективність для різних груп населення. Віртуальні помічникинаприклад, може легко розпізнавати ідіоматичні вирази чи посилання, поширені в західних суспільствах, але часто не в змозі точно відповідати користувачам з іншого культурного середовища. На запитання про місцеву традицію може бути дана розпливчаста або неправильна відповідь, що відображає недостатню культурну обізнаність системи.
Ці упередження виходять за межі культурних спотворень і ще більше посилюються географічними відмінностями. Більшість даних про навчання штучному інтелекту надходить із міських регіонів Північної Америки та Європи з добре зв’язаним зв’язком і недостатньо включає сільські райони та країни, що розвиваються. Це має серйозні наслідки в критичних секторах.
Інструменти штучного інтелекту в сільському господарстві, розроблені для прогнозування врожайності сільськогосподарських культур або виявлення шкідників, часто не працюють у таких регіонах, як Африка на південь від Сахари чи Південно-Східна Азія, оскільки ці системи не адаптовані до унікальних умов навколишнього середовища та методів ведення сільського господарства в цих регіонах. Подібним чином системи штучного інтелекту охорони здоров’я, які зазвичай навчаються на даних із західних лікарень, намагаються поставити точні діагнози населенню в інших частинах світу. Дослідження показали, що моделі дерматологічного штучного інтелекту, які тренувалися переважно на світліших тонах шкіри, працюють значно гірше під час тестування на різних типах шкіри. Наприклад, дослідження 2021 року виявили, що моделі штучного інтелекту для виявлення шкірних захворювань зазнали падіння точності на 29-40% при застосуванні до наборів даних, які включали темні тони шкіри. Ці проблеми виходять за рамки технічних обмежень, що відображає нагальну потребу в більш охоплюючих даних для порятунку життів і покращення глобальних результатів охорони здоров’я.
Суспільні наслідки цього упередження є далекосяжними. Системи штучного інтелекту, створені для розширення можливостей людей, часто замість цього створюють бар’єри. Освітні платформи на базі штучного інтелекту, як правило, надають пріоритет західним навчальним програмам, залишаючи студентів з інших регіонів без доступу до відповідних або локалізованих ресурсів. Мовні засоби часто не враховують складність місцевих діалектів і культурних проявів, що робить їх неефективними для величезних верств населення світу.
Упередженість у ШІ може посилити шкідливі припущення та поглибити системну нерівність. Наприклад, технологія розпізнавання обличчя зазнала критики через вищий рівень помилок серед етнічних меншин, що призвело до серйозних наслідків у реальному світі. У 2020 році Роберт Вільямс, темношкірий чоловікбув неправомірно заарештований у Детройті через несправність розпізнавання обличчя, що підкреслює суспільний вплив таких технологічних упереджень.
З економічного погляду нехтування глобальним розмаїттям у розробці ШІ може обмежити інновації та зменшити ринкові можливості. Компанії, які не враховують різноманітні точки зору, ризикують відштовхнути значні сегменти потенційних користувачів. 2023 рік Звіт McKinsey За підрахунками, генеративний штучний інтелект може щорічно приносити світовій економіці від 2,6 до 4,4 трильйонів доларів США. Однак реалізація цього потенціалу залежить від створення інклюзивних систем штучного інтелекту, які обслуговують різні групи населення в усьому світі.
Усуваючи упередження та розширюючи представництво в розробці штучного інтелекту, компанії можуть відкривати нові ринки, стимулювати інновації та гарантувати, що переваги штучного інтелекту рівномірно розподіляються між усіма регіонами. Це підкреслює економічний імператив створення систем штучного інтелекту, які ефективно відображають і обслуговують населення світу.
Мова як перешкода інклюзивності
Мови глибоко пов’язані з культурою, ідентичністю та спільнотою, але системи штучного інтелекту часто не відображають це розмаїття. Більшість інструментів штучного інтелекту, включаючи віртуальних помічників і чат-ботів, добре працюють кількома широко поширеними мовами та пропускають менш представлені. Цей дисбаланс означає, що корінні мови, регіональні діалекти та мови меншин рідко підтримуються, що ще більше маргіналізує спільноти, які ними розмовляють.
Незважаючи на те, що такі інструменти, як Google Translate, змінили комунікацію, вони все ще мають проблеми з багатьма мовами, особливо з тими, які мають складну граматику або обмежену цифрову присутність. Це виключення означає, що мільйони інструментів на основі штучного інтелекту залишаються недоступними або неефективними, розширюючи цифровий розрив. А Звіт ЮНЕСКО за 2023 рік показали, що понад 40% мов світу ризикують зникнути, а їхня відсутність у системах ШІ посилює цю втрату.
Системи штучного інтелекту зміцнюють домінування Заходу в технологіях, віддаючи пріоритет лише крихітній частині мовного розмаїття світу. Усунення цієї прогалини має важливе значення для того, щоб ШІ став справді інклюзивним і обслуговував спільноти по всьому світу, незалежно від мови, якою вони розмовляють.
Вирішення західного упередження в ШІ
Щоб виправити західні упередження в ШІ, потрібно суттєво змінити те, як проектуються та навчаються системи ШІ. Першим кроком є створення більш різноманітних наборів даних. ШІ потребує багатомовних, мультикультурних і регіонально репрезентативних даних, щоб обслуговувати людей у всьому світі. Такі проекти, як Масаханеякий підтримує африканські мови, і AI4Indiaякий зосереджується на індійських мовах, є чудовими прикладами того, як інклюзивна розробка ШІ може бути успішною.
Технології також можуть допомогти вирішити проблему. Федеративне навчання дозволяє збирати дані та навчати з недостатньо представлених регіонів без ризику для конфіденційності. Пояснений ШІ інструменти полегшують виявлення та виправлення зміщень у реальному часі. Однак одних лише технологій недостатньо. Уряди, приватні організації та дослідники повинні працювати разом, щоб заповнити прогалини.
Закони та політика також відіграють ключову роль. Уряди повинні запроваджувати правила, які вимагають різноманітних даних у навчанні ШІ. Вони повинні притягувати компанії до відповідальності за необ’єктивні результати. У той же час групи адвокації можуть підвищувати обізнаність і спонукати до змін. Ці дії гарантують, що системи штучного інтелекту представляють різноманіття світу та чесно обслуговують усіх.
Крім того, співпраця так само важлива, як технології та правила. Розробники та дослідники з недостатньо забезпечених регіонів мають брати участь у процесі створення ШІ. Їхнє розуміння гарантує, що інструменти штучного інтелекту відповідають культурі та практичні для різних спільнот. Технологічні компанії також зобов’язані інвестувати в ці регіони. Це означає фінансування місцевих досліджень, найм різноманітних команд і створення партнерств, які зосереджені на інклюзії.
Підсумок
ШІ має потенціал змінити життя, подолати розриви та створити можливості, але лише якщо він працює для всіх. Коли системи штучного інтелекту не помічають багатого розмаїття культур, мов і поглядів у всьому світі, вони не виконують своїх обіцянок. Проблема упередженості Заходу в штучному інтелекті — це не просто технічний недолік, а проблема, яка вимагає термінової уваги. Віддаючи пріоритет інклюзивності в дизайні, даних і розробці, штучний інтелект може стати інструментом, який підніме всі спільноти, а не лише кілька привілейованих.
