Члени Європарламента нещодавно прийняли історичне рішення, прийнявши перший у світі закон про штучний інтелект. Це значний крок у напрямі регулювання технологій та, як пояснюють розробники, закон має мету забезпечення безпеки та захисту прав громадян.
Айтівці EPAM вивчили документ і зробили висновки про те, як і на шо він може вплинути для роботи в IT.
«Кремнієва долина може забрати європейський ринок ШІ»
Вадим Власенко, архітектор рішень в EPAM
Закон, який прийняв Європарламент, на мій погляд, виглядає більше як обмеження, ніж регулювання. Бо для справедливого регулювання треба залучати експертів з галузі, які допоможуть розробити якісні програми та вплинуть на зміст актів і нормативних документів.
Нинішню ситуацію можна порівняти з появою електронної комерції. Ми спостерігали бум купівель в інтернеті, і спочатку там було багато різних можливостей для обману людей. Потім запровадили акти про персональні дані, заборону зберігання платіжних даних, і вже зараз процес купівлі товару зазвичай проходить безпечно. Такі самі правила будуть прийняти стосовно ШІ, щоб убезпечити людей від негативних наслідків, як, наприклад, використання дипфейків для виманювання грошей.
Персональні дані, за які ми зазвичай переживаємо, треба розрізняти. Якщо вони знаходяться в соціальних мережах чи резюме, викладених в інтернеті, то вже є публічними й ШІ може використовувати їх для навчання. Те саме можна сказати про біометричні дані — це записи з вебкамер, які також можуть бути у публічному доступі. Я не бачу в цих прикладах поганих наслідків, бо все, що публічно, вже не персонально. Якщо йдеться, наприклад, про дані банківських рахунків чи карток, ШІ не може мати до них доступу, бо у банків є серйозні стандарти безпеки.
Регулювати використання ШІ потрібно, щоб з’явилися стандарти. Раніше ми не мали на державному рівні відділів кібербезпеки, але потім зрозуміли, що діям злочинців в інтернеті треба протистояти. Як відповідь були засновані відповідні департаменти. Так і з ШІ регулювання рано чи пізно прийде, але потрібно це робити на глобальному рівні для балансування ринку. Бо якщо в ЄС будуть більш жорсткі умови, а в США — лояльні, на ринку станеться перегин. Кремнієва долина може розвиватися стрімко і забрати ринок, а ЄС відставатиме. Якщо регулятори закручуватимуть гайки, той самий французький ШІ-стартап Mistral AI буде змушений припинити свій розвиток чи мігрувати на інший ринок, що завдасть шкодить економіці. В Азії ще складніше. У Китаї не дозволяють громадянам використовувати популярні програми ШІ, але там уже розробляють свої застосунки.
Якщо казати про побоювання, що колись ШІ підкорить людину, треба розуміти, що штучним інтелектом ми зараз називаємо генеративну модель, яка немає саморозвитку. Вона лише генерує контент за алгоритмами. Боятися тут нема чого. Навіть якщо ця модель буде розвиватися, вона залишиться підконтрольною людині.
Зараз обмеження виглядають більше як побоювання політичних еліт, що ШІ може перевернути наявні стандарти, до яких консервативні законодавці не готові. За лаштунками йде боротьба за ринок, бо це дуже перспективний напрямок у багатьох галузях.
«Багато питань є до етики застосування ШІ»
Юрій Євстафієв, менеджер команди розробки (Software Engineering Manager) в EPAM
Мені здається правильним той шлях, який обрав ЄС. Світ рухається, і треба мати правила гри. Закон поділяє ШІ на чотири категорії. Перші, які мають «мінімальний ризик» не будуть врегульовуватися та мати значні обмеження, до них буде відноситися AI (використовується в відео іграх чи спам-фільтрах).
Далі йдуть системи з «лімітованим ризиком»: AI, що створює картинки, змінює голос і так далі. У цій категорії додатків користувачів будуть попереджати про взаємодію зі штучним інтелектом. Наступний «АІ загального призначення», цей розділ буде включати в тому ж числі ChatGPT. Тут всі системи будуть оцінюватися та відповідати вимогам прозорості, які зазначені в документі.
Найбільш законодавчо врегульованими будуть моделі, що належать до високого ризику. Наприклад, це використання AI у медицині чи керуванні авто. Ці системи перед релізом будуть ретельно перевіряти. Останній рівень — «недопустима небезпека», ці додатки будуть заборонені для використання на території ЄС. До них потраплять застосунки з визначення соціального рейтингу, який буде базуватись на основі персональних характеристик, біометрична ідентифікація в режимі реального часу чи будь-які додатки, що маніпулюють людською поведінкою.
Багато питань ставиться до етичної складової застосування ШІ. Чи хотіли би ми, щоб, наприклад, залученість дітей до навчання в школі визначалась AI за допомогою розпізнавання їх міміки, спрямованості погляду? Ця технологія зараз працює в китайських школах. Я вважаю, що це вже порушення прав людини. З іншого боку я неодноразово був свідком, як мій друг — викладач географії в одеському ліцеї, використовує ШІ для інтерактивних уроків, щоб краще пояснити матеріал, зацікавити дітей. Тому вся користь чи шкода, яку приносить ШІ, це лише питання підходу до його використання. Саме врегулювання цього аспекту є лише першою «ластівкою» в переліку подібних законодавчих актів по всьому світу.
