Кожна технологічна революція має визначальний момент, коли конкретний випадок використання сприяє технології до широкого прийняття. Цей час прийшов для генеративного AI (Genai) з швидким поширенням сопілотів.
Генай як технологія за останні кілька років досягла значних успіхів. Однак, незважаючи на всі заголовки та ажіотаж, його прийняття компаніями все ще перебуває на ранніх стадіях. З 2024 Опитування керівників CIO та технічних технологій Gartner Викладає лише 9% опитаних, 34% заявляють, що планують це зробити в наступному році. Нещодавнє опитування групи стратегії Enterprise ставить прийняття Genai на 30%. Але всі опитування приходять до того ж висновку близько 2025 року.
Прогноз 1. Більшість підприємств використовуватимуть Genai у виробництві до кінця 2025 року
Прийняття Genai вважається критичним для підвищення продуктивності та прибутковості та стало головним пріоритетом для більшості підприємств. Але це означає, що компанії повинні подолати проблеми, які виникають досі в проектах Genaii, в тому числі:
- Погана якість даних: Genai закінчується лише такими ж хорошими, як і дані, якими він користується, і багато компаній досі не довіряють своїм даним. Якість даних разом із неповними або упередженими даними – це проблеми, які призводять до поганих результатів.
- Витрати на Genai: Навчальні моделі Genai, такі як Chatgpt, в основному були зроблені лише найкращими з найкращих команд Genai та коштує мільйони обчислювальної потужності. Тож натомість люди використовують техніку під назвою “Покоління”, що розширюється (RAG). Але навіть за допомогою RAG, швидко отримує доступ та підготовку даних та збирання експертів, необхідних для досягнення успіху.
- Обмежені набори навичок: Багато ранніх розгортань Genai вимагали багато кодування невеликою групою експертів у Генай. Поки ця група зростає, все ще існує справжній дефіцит.
- Галюцинації: Генай не ідеальний. Він може галюцинувати і дати неправильні відповіді, коли вважає, що це правильно. Вам потрібна стратегія для запобігання неправильним відповідям впливати на ваш бізнес.
- Безпека даних: Genai оприлюднив дані невірним людям, оскільки вони використовувались для навчання, тонкої настройки або ганчірки. Потрібно здійснити заходи безпеки для захисту від цих витоків.
На щастя, програмна індустрія вирішує ці виклики протягом останніх кількох років. 2025 виглядає як рік, коли кілька цих викликів починають вирішуватись, а Генай стає основним.
Прогноз 2. Модульні ганчірні копілоти стануть найпоширенішим використанням Genai
Найбільш поширене використання Genai – це створення помічників або сопілотів, які допомагають людям швидше знаходити інформацію. Копілоти зазвичай будуються за допомогою RAG трубопроводів. Ганчір – це шлях. Це найпоширеніший спосіб використання Genai. Оскільки великі мовні моделі (LLM)-це моделі загального призначення, які не мають усіх або навіть останніх даних, вам потрібно збільшити запити, інакше відомі як підказки, щоб отримати більш точну відповідь.
Копілоти допомагають працівникам знань бути більш продуктивними, вирішувати раніше невідповідні питання та надавати експертні рекомендації, а іноді також виконуючи звичайні завдання. Мабуть, найуспішніший випадок використання Copilot на сьогоднішній день – це те, як вони допомагають розробникам програмного забезпечення коду або модернізувати застарілий код.
Але очікується, що копілоти матимуть більший вплив при використанні поза ним. Приклади включають:
- У службі обслуговування клієнтів сопілоти можуть отримати запит на підтримку і або переростати людині для втручання або надати роздільну здатність для простих запитів, таких як скидання пароля або доступ до облікового запису, що призводить до більш високих балів CSAT.
- У виробництві пілоти можуть допомогти технікам діагностувати та рекомендувати конкретні дії або ремонт складної техніки, скорочуючи час простою.
- У галузі охорони здоров’я клініцисти можуть використовувати сопілоти для доступу до історії пацієнтів та відповідних досліджень та допомагають керувати діагностикою та клінічною допомогою, що підвищує ефективність та клінічні результати.
Трубопроводи RAG здебільшого працювали однаково. Перший крок – завантажити базу знань у векторну базу даних. Щоразу, коли людина задає питання, викликається трубопровід Genai Rag. Він переробляє питання в підказку, запитує векторну базу даних, кодуючи підказку, щоб знайти найбільш релевантну інформацію, викликає LLM з підказкою, використовуючи отриману інформацію як контекст, оцінює та формує результати, і відображає їх користувачеві .
Але виявляється, ви не можете підтримувати всіх копілотів однаково добре за допомогою одного трубопроводу ганчірки. Таким чином, RAG перетворилася на більш модульну архітектуру під назвою модульна ганчірка, де можна використовувати різні модулі для кожного з багатьох залучених кроків:
- Індексація, включаючи збивання даних та організацію
- Попереднє зняття, включаючи запити (оперативну) інженерію та оптимізацію
- Пошук з тонкою настройкою та іншими методами ретрівера та іншими методами
- Після зняття реєстрації та відбір
- Генерація з тонкою настройкою генератора, використання та порівняння декількох ЛЛМ та перевірки
- Оркестрація, яка керує цим процесом, і робить його ітеративною, щоб допомогти отримати найкращі результати
Вам потрібно буде реалізувати модульну архітектуру ганчірки для підтримки декількох сопілотів.
Прогноз 3. Інструменти Genai No-Code/низького коду стануть шляхом
На сьогоднішній день ви можете усвідомити, що Genai Rag дуже складна і швидко змінюється. Справа не лише в тому, що нові найкращі практики постійно з’являються. Всі технології, що беруть участь у трубопроводах Genai, змінюються настільки швидко, що вам в кінцевому підсумку потрібно замінити деякі з них або підтримати декілька. Крім того, Genai не лише про модульну ганчірку. Отримання розширених тонких налаштувань (RAFT) та повна модельна підготовка також стають економічно вигідними. Вашій архітектурі потрібно буде підтримувати всю цю зміну та приховати складність від ваших інженерів.
На щастя, найкращі інструменти Genai No-Code/низький код забезпечують цю архітектуру. Вони постійно додають підтримку провідних джерел даних, векторних баз даних та LLMS та дозволяють створювати модульні ганчірні дані або подавати дані в LLM для тонкої настройки або навчання. Компанії успішно використовують ці інструменти для розгортання сопілотів за допомогою своїх внутрішніх ресурсів.
Nexla не просто використовує Genai для спрощення інтеграції. Він включає модульну архітектуру трубопроводу з розширеним прибиванням даних, інженерії запитів, переробки та вибору, підтримки мульти-LLM з рейтингом результатів та вибором, оркестрацією тощо-все налаштовано без кодування.
Прогноз 4. Лінія між копілотами та агентами буде розмити
Генайські копілоти, такі як чати, – це агенти, які підтримують людей. Зрештою, люди приймають рішення про те, що робити з створеними результатами. Але агенти Genai можуть повністю автоматизувати відповіді, не залучаючи людей. Їх часто називають агентами або агентом AI.
Деякі люди розглядають їх як два окремі підходи. Але реальність складніша. Копілоти вже починають автоматизувати деякі основні завдання, необов’язково дозволяють користувачам підтвердити дії та автоматизувати кроки, необхідні для їх виконання.
Очікуйте, що копілоти з часом перетворяться на поєднання сопілотів та агентів. Так само, як додатки допомагають переробити та впорядкувати бізнес-процеси, помічники можуть і повинні почати використовуватись для автоматизації проміжних кроків завдань, які вони підтримують. Агенти на основі Genai також повинні включати людей для обробки винятків або затвердження плану, створеного за допомогою LLM.
Прогноз 5. Genai призведе до прийняття тканин даних, продуктів даних та відкритих стандартів даних
Очікується, що Genai буде найбільшим рушієм змін у ньому протягом наступних кількох років, оскільки йому потрібно буде адаптуватися, щоб компанії могли реалізувати повну користь від Genai.
У рамках циклів Hype Gartner для управління даними, 2024, Gartner визначив 3, і лише 3 технології як трансформація для управління даними та для організацій, які залежать від даних: тканини даних, продукти даних та форматів відкритих таблиць. Усі 3 допомагають зробити дані набагато доступнішими для використання з Genai, оскільки вони полегшують використання даних цими новими наборами інструментів Genai.
NEXLA реалізувала архітектуру продуктів даних, побудовану на тканині даних з цієї причини. Тканина даних забезпечує єдиний шар для управління всіма даними однаково, незалежно від відмінностей у форматах, швидкості чи протоколах доступу. Потім продукти даних створюються для підтримки конкретних потреб даних, наприклад, для RAG.
Наприклад, одна велика фірма з фінансових послуг впроваджує Genai для посилення управління ризиками. Вони використовують NEXLA для створення єдиної тканини даних. NEXLA автоматично виявляє схему, а потім генерує роз’єми та продукти даних. Потім компанія визначає продукти даних для конкретних показників ризику, які агрегують, очищають та перетворюють дані у правильний формат як входи, що впроваджують агенти RAG для динамічної регуляторної звітності. NEXLA забезпечує контроль управління даними, включаючи лінію даних та контроль доступу для забезпечення регуляторної відповідності. Наша інтеграційна платформа для аналітики, операцій, B2B та Genai реалізована на архітектурі тканини даних, де Genai використовується для створення багаторазових роз’ємів, продуктів даних та робочих процесів. Підтримка стандартів відкритих даних, таких як Apache Iceberg, полегшує доступ до все більшої кількості даних.
Як скопіювати свій шлях до агента AI
Тож як слід готуватися до того, щоб зробити Genai мейнстрім у вашій компанії на основі цих прогнозів?
По -перше, якщо ви ще цього не зробили, почніть на своєму першому асистенті Genai Rag для своїх клієнтів чи працівників. Визначте важливий і відносно простий випадок використання, де ви вже маєте правильну базу знань, щоб досягти успіху.
По -друге, переконайтеся, що у вас є невелика команда експертів Genai, які можуть допомогти поставити правильну модульну архітектуру ганчірки, з правильними інструментами інтеграції для підтримки ваших перших проектів. Не бійтеся оцінювати нових постачальників за допомогою інструментів без коду/низького коду.
По -третє, почніть визначати ті найкращі практики управління даними, які вам потрібно буде досягти успіху. Це не тільки включає тканину даних та такі поняття, як продукти даних. Вам також потрібно керувати своїми даними для AI.
Час зараз. 2025 – це рік, коли більшість досягне успіху. Не залишайтеся позаду.
