Supremacy: AI, ChatGPT, and the Race that Will Change the World (2024)
Ця книга однозначно стала однією з найулюбленіших для мене на тему ШІ. Невипадково вона отримала нагороду як бізнес-книга 2024 року, за версією Financial Times і Schroders. На основі цієї книги можна сміливо знімати мінісеріал Netflix про захопливу та драматичну боротьбу між співзасновниками OpenAI і DeepMind — авторка порівнює суперництво між Семом Альтманом і Демісом Хассабісом із двома винахідниками епохи електрифікації Томасом Едісоном і Джорджем Вестінгхаусом.
Мені книга почала подобатися вже з перших рядків: «Після того, як ви взяли цю книгу й прочитали перші кілька слів, вам може бути цікаво, чи написала їх людина. Це нормально. Я не ображена. Два роки тому ця думка навіть не приходила б вам у голову».
Перші 30% книги — це розповідь про події до заснування OpenAI і DeepMind. Це дає змогу глибше зрозуміти мотиви, які рухали впродовж багатьох років співзасновників компаній. Особливо щодо мети, або краще сказати релігійної одержимості — створити загальний (сильний) ШІ.
Книга пояснює, чому OpenAI вдалося, а DeepMind/Google — ні. І це реально цікаво, бо ще у 2017 році OpenAI витратив близько $30 млн на зарплату та обчислювальну потужність, а DeepMind витратив понад $440 млн. У 2017 році Ілон Маск хвилювався, що OpenAI не така потужна, як DeepMind, і прямо казав Сему Альтману, що занадто відстають від DeepMind. Тож, як маленька компанія з менш ніж 200 дослідників ШІ розробила щось краще, ніж те, що Google мав із майже 5000?
Відповідь на це питання багатоскладова. Наприклад, DeepMind мав академічно орієнтовану культуру, яка цінувала докторський персонал, а OpenAI мала більш інженерно-підприємницьку культуру (багато дослідників були програмістами, хакерами й ексзасновниками стартапів Y Combinator).
Крім того, Google (який володів DeepMind) був громіздкою бюрократією, що не хотіла випускати будь-які нові технології, які можуть порушити успіх пошукового бізнесу. Також інженери Google, як правило, вважали, що вони вже працюють із найсучаснішими технологіями, тому вони працювали за девізом «якщо щось не зламалося, можна не виправляти це».
Ще книга розповідає, як саме відбувалися процеси винаходу GPT. Що великі мовні моделі — це гігантські машини прогнозування, автозаповнення на стероїдах. А також деталі про генерацію зображень — як тріо дослідників OpenAI протягом двох років намагалися використовувати щось, що називається дифузійною моделлю для створення зображень.
Книга пояснює й те, чому є упередження в ШІ-моделях. Наприклад, DeepMind нарощував вчених і програмістів, щоб покращити продуктивність моделей, але лише кілька співробітників досліджували етичні способи проектування ШІ. Майже ніхто не дивився на те, як системи ШІ можуть призвести до упередженості та расизму або зашкодити правам людини.
Нарешті, пізнавально було читати історію трансформації настроїв і цілей OpenAI — від некомерційної організації, яка «open» (це була справжня «фішка», яка відрізняла їх від інших, антикорпорація, робота на благо людства бла-бла-бла), через фінансову кризу та потребу в грошах і талантах, до однієї з найагресивніших ШІ-компаній на ринку.
Вердикт: 10/10. Must-read книга для розуміння, як саме відбувається боротьба за лідерство у сфері генеративного ШІ. Охоплює й технічні деталі, і людські історії (але більше людські історії).
Co-Intelligence: Living and Working with AI by Ethan Mollick (2024)
Ця книга «зайшла» не тільки мені, але й була визнана Financial Times і The Economist однією з найкращих книг 2024 року. Професор Вортонського університету Ітан Моллік посилається на велику кількість досліджень і кейсів про генеративний ШІ. З деякими з них ви вже могли ознайомитися, читаючи новини чи статті в інтернеті. Але разом із тим є багато цікавих і свіжих думок автора.
Наприклад, Моллік трохи провокаційно натякає, що якими б великими не були попередні технології загального призначення, їхній вплив на роботу та освіту може бути меншим, ніж вплив ШІ. Зокрема, продуктивність завдяки ШІ може зрости на 20–80% у різних сферах — від кодування до маркетингу, а парова енергія, що спричинила промислову революцію, підвищила продуктивність фабрик на 18–22%. Як видно з назви, книга про співпрацю людини із ШІ.
Моллік пропонує чотири базові принципи взаємодії із ШІ:
- Принцип 1. Завжди запрошуйте ШІ до столу. Поки немає якогось посібнику з використання ШІ, тому експериментуйте із ШІ якомога більше, щоб відкрити для себе його можливості й обмеження.
- Принцип 2. Будьте людиною в цьому процесі. Майте конструктивні сумніви, критичне мислення та етичні міркування, перевіряйте згенеровані результати на наявність галюцинацій і брехні.
- Принцип 3. Ставтеся до ШІ як до людини. Працюйте із ШІ, як із колегою в команді — давайте чіткі інструкції та контекст.
- Принципи 4. Припустимо, що це найгірший ШІ, який ви коли-небудь будете використовувати. ШІ-моделі будуть ставати кращим в найближчі кілька років, треба адаптуватися до нових рішень.
Усі ці принципи, якщо чесно, я ще до прочитання книги вже рекомендував під час своїх тренінгів із генеративного ШІ. Тому що ці правила абсолютно логічні та мають конкретне підґрунтя у вигляді досліджень. Окремо Моллік розглядає ШІ для творчих завдань. Тут згадується дослідження, коли після тестування моделей генеративного ШІ та 100 людей у творчих ідеях, виявили, що модель GPT-4 перевершує всіх, крім 9,4% людей.
Також окремо розглядається ШІ як колега. І тут цікаві результати експерименту: рекрутери з більш якісними ШІ-системами були гіршими, ніж рекрутери з менш якісними ШІ-системами. Оскільки перші сліпо дотримувалися рекомендацій ШІ. А рекрутери із ШІ-системами низької якості були більш пильними, більш критичними та більш незалежними.
ШІ як тьютор/репетитор. Ось цей аспект мені був найцікавішим, оскільки тут є особистий досвід автора як викладача. Якими б чудовими не були сучасні ШІ-системи, ми не досягли точки, коли вони могли б замінити вчителів-людей магічними підручниками. Моллік вважає, що ШІ-системи не замінять вчителів, а навпаки, зроблять заняття в класах більш необхідними.
Крім того, Моллік стверджує (і я з ним погоджуюсь), що немає способу виявити ШІ-згенерований текст, оскільки кілька раундів взаємодій із ШІ-сервісом усувають здатність будь-якої системи виявляти згенерований текст. І що гірше, цифрові детектори мають високі хибнопозитивні показники, тобто визначають людський текст як згенерований.
ШІ як коуч/тренер. Сподобалась фраза Молліка, що спосіб бути корисним у світі ШІ — це мати високий рівень досвіду як людини. Наприклад, досвідчений педагог зможе оцінити навчальний план, написаний ШІ. Досвідчений архітектор може оцінити доцільність запропонованого ШІ плану будівлі. Кваліфікований лікар може ретельно вивчити діагноз або план лікування, створеного ШІ.
Вердикт: 9/10. Гарна книга про способи ефективної взаємодії з генеративним ШІ як співінтелектом для широкої аудиторії. AI Snake Oil: What Artificial
Intelligence Can Do, What It Can’t (2024)
Ця книга — посібник із виявлення «зміїної олії» в ШІ. Що це означає? Наприкінці XIX та на початку XX ст. в Америці орудували торговці зміїною олією, продаючи чудодійні ліки під фальшивим приводом. Вони використовували ненаукові переконання про те, що зміїна олія нібито має різні переваги для здоровʼя. У деяких випадках ці ліки були неефективними, але нешкідливими. В інших — вони призводили до втрати життя або здоровʼя. Тож у контексті ШІ мається на увазі той ШІ, який не працює і не може працювати, як рекламується.
Відзначу шикарний початок книги, який мені відгукується: «Уявіть собі альтернативний всесвіт, у якому люди не мають слів для різних видів транспорту — лише збірний іменник „транспортний засіб“. Вони використовують це слово для позначення автомобілів, автобусів, велосипедів, космічних апаратів та всіх інших способів дістатися з місця А в місце Б. Розмови в цьому світі заплутані. Існують люті дебати про те, чи є транспортні засоби екологічно чистими, хоча ніхто не розуміє, що одна сторона дебатів говорить про велосипеди, а інша сторона — про вантажівки. Є прорив у ракетобудуванні, але ЗМІ зосереджуються на тому, як транспортні засоби стали швидшими, тому люди дзвонять своєму автодилеру, щоб запитати, коли будуть доступні швидші моделі. Тим часом шахраї скористалися цим фактом, що споживачі не знають, у що вірити, коли справа доходить до транспортних технологій, тому шахрайство лютує в автомобільному секторі. Тепер замініть слово „транспортний засіб“ на „штучний інтелект“, і ми маємо досить хороший опис світу, у якому ми живемо».
Я завжди на своїх тренінгах із генеративного ШІ кажу, що ШІ — це спаплюжений термін, дуже широкий, охоплює різні технології. Тому, щоб уникнути плутанини, краще завжди просити співрозмовників уточнювати, яку саме технологію вони мають на увазі, наприклад, комп’ютерний зір, систему рекомендацій, робототехніку, обробку природної мови тощо.
На перших 30% сторінках книги хейт прогнозного ШІ. Аргументований. Наприклад, група журналістів провела розслідування — подивилися на Retorio, мюнхенський стартап, який пропонує інструменти найму на основі відеоінтерв’ю. Простих змін у зовнішності людини, таких як носіння шарфа або окулярів, було достатньо, щоб різко змінити оцінку, яку давав ШІ-інструмент. Додавання книжкової полиці або картини на задньому плані збільшувало бали, а темніше відео (без зміни його змісту) призвело до зниження балів.
В іншому дослідженні розглянули тести, що використовуються при наймі, і виявили, що просто зміна формату резюме кандидатів із PDF на звичайний текст змінила їхні особистісні бали.
Також автори книги кажуть про оману, що ШІ близький до заміни людей. Наприклад, OpenAI стверджували, що модель GPT-4 демонструє продуктивність на рівні людини на більшості професійних та академічних іспитів, а також набрала дев’яносто третій процентиль на іспиті на адвокатуру. Багато хто сприйняв це як ознаку того, що ШІ незабаром буде достатньо гарним, щоб замінити юристів.
Але робота юриста полягає не в тому, щоб увесь день відповідати на питання на адвокатських іспитах. Більше того, професійні іспити, особливо іспит на адвокатуру, як відомо, надмірно підкреслюють предметні знання та недооцінюють навички реального світу.
А ще автори книги обурюються тим, що в медіа зображують ШІ як роботів. Дослідження Великої Британії показало, що 25% респондентів прирівнюють ШІ до страшних роботів. Але більшість ШІ сьогодні використовується для виявлення закономірностей у даних. Це більше схоже на Microsoft Excel, ніж на Термінатора.
Вердикт: 8/10. Книга допоможе не потрапити в пастку ШІ-хайпу, який у надлишку сьогодні.
