Девід Дрігерс є головним технічним директором компанії Хмарні служби Cirrascaleпровідний постачальник інфраструктурних рішень глибокого навчання. Керуючись цінностями цілісності, гнучкості та орієнтації на клієнта, Cirrascale пропонує інноваційні хмарні рішення інфраструктури як послуги (IaaS). Співпрацюючи з лідерами екосистем штучного інтелекту, як-от Red Hat і WekaIO, Cirrascale забезпечує безперебійний доступ до передових інструментів, надаючи клієнтам змогу досягти прогресу в глибокому навчанні, зберігаючи передбачувані витрати.
Cirrascale — єдиний постачальник GPUaaS, який співпрацює з великими напівпровідниковими компаніями, такими як NVIDIA, AMD, Cerebras і Qualcomm. Яку користь це унікальне позиціонування приносить вашим клієнтам з точки зору продуктивності та масштабованості?
Оскільки індустрія розвивається від моделей навчання до розгортання цих моделей, які називаються висновками, не існує універсального розміру для всіх. Залежно від розміру та вимог до затримки моделі різні прискорювачі пропонують різні значення, які можуть бути важливими. Час на відповідь, переваги ціни за токен або продуктивність за ват можуть вплинути на вартість і взаємодію з користувачем. Оскільки інференція призначена для виробництва, ці функції/можливості мають значення.
Що відрізняє AI Innovation Cloud від інших постачальників GPUaaS у підтримці штучного інтелекту та робочих процесів глибокого навчання?
Інноваційна хмара штучного інтелекту від Cirrascale дозволяє користувачам випробувати нові технології, недоступні в жодній іншій хмарі. Це може допомогти не лише у прийнятті рішень щодо хмарних технологій, але й у потенційних покупках на місці.
Як платформа Cirrascale забезпечує безперебійну інтеграцію для стартапів і підприємств з різноманітними потребами прискорення ШІ?
Cirrascale використовує підхід рішення для нашої хмари. Це означає, що як для стартапів, так і для підприємств ми пропонуємо готове рішення, яке включає як Dev-Ops, так і Infra-Ops. Хоча ми називаємо це «голим металом», щоб відрізнити наші пропозиції від того, що вони не є спільними чи віртуалізованими, Cirrascale повністю налаштовує всі аспекти пропозиції, включаючи повне налаштування серверів, мережі, сховища, безпеки та вимог до доступу користувачів до надання послуги нашим клієнтам. . Наші клієнти можуть відразу почати користуватися сервісом, а не налаштовувати все самостійно.
Впровадження штучного інтелекту в масштабах підприємства стикається з перешкодами, такими як якість даних, інфраструктурні обмеження та високі витрати. Як Cirrascale вирішує ці проблеми для компаній, які масштабують ініціативи ШІ?
Хоча Cirrascale не пропонує послуги типу Data Quality, ми співпрацюємо з компаніями, які можуть допомогти з проблемами з даними. Що стосується інфраструктури та витрат, Cirrascale може пристосувати рішення до конкретних потреб клієнта, що призводить до кращої загальної продуктивності та відповідних витрат відповідно до вимог клієнта.
Завдяки прогресу Google у квантових обчисленнях (Willow) і моделях штучного інтелекту (Gemini 2.0), як, на вашу думку, зміниться ландшафт корпоративного штучного інтелекту в найближчому майбутньому?
Квантові обчислення все ще залишаються далеко від прайм-тайму для більшості людей через відсутність програмістів і готових програм, які можуть скористатися перевагами цих функцій. Gemini 2.0 та інші широкомасштабні пропозиції, такі як GPT4 і Claude, безперечно, отримають певне сприйняття серед корпоративних клієнтів, але значна частина корпоративного ринку зараз не готова довіряти свої дані третім сторонам, особливо тим, хто може використовувати ці дані для навчання своїх моделей.
Пошук правильного балансу потужності, ціни та продуктивності має вирішальне значення для масштабування рішень ШІ. Які ваші головні рекомендації для компаній, які орієнтуються в цьому балансі?
Тест, тест, тест. Для компанії критично важливо тестувати свою модель на різних платформах. Виробництво відрізняється від розробки — вартість має значення у виробництві. Навчання може бути закінченим, але висновки назавжди. Якщо вимоги до продуктивності можна задовольнити з нижчою ціною, ці заощадження впадають у кінцевий результат і можуть навіть зробити рішення життєздатним. Досить часто розгортання великої моделі занадто дороге, щоб зробити її практичною у використанні. Кінцеві користувачі також повинні шукати компанії, які можуть допомогти з цим тестуванням, оскільки часто інженер ML може допомогти з розгортанням, а не Data Scientist, який створив модель.
Як Cirrascale адаптує свої рішення, щоб задовольнити зростаючий попит на генеративні програми штучного інтелекту, такі як LLM та моделі генерації зображень?
Cirrascale пропонує найширший спектр прискорювачів штучного інтелекту, і завдяки поширенню моделей LLM і GenAI, які різняться як за розміром, так і за сферою дії (наприклад, мультимодальні сценарії), а також для пакетного або реального часу, це справді кінь для сценарію курсу.
Чи можете ви навести приклади того, як Cirrascale допомагає компаніям подолати затримки та вузькі місця передавання даних у робочих процесах ШІ?
Cirrascale має численні центри обробки даних у багатьох регіонах і не розглядає підключення до мережі як центр прибутку. Це дозволяє нашим користувачам «вибирати правильний розмір» підключень, необхідних для переміщення даних, а також використовувати більше одного місця, якщо затримка є критичною функцією. Крім того, шляхом профілювання фактичних робочих навантажень Cirrascale може допомогти збалансувати затримку, продуктивність і вартість, щоб отримати найкращу цінність після виконання вимог до продуктивності.
Які нові тенденції в апаратному забезпеченні або інфраструктурі штучного інтелекту вас найбільше хвилюють і як Cirrascale готується до них?
Ми дуже раді новим процесорам, спеціально створеним для логічного висновку, у порівнянні зі звичайними процесорами на базі графічного процесора, які, на щастя, добре підходять для навчання, але не оптимізовані для випадків використання висновків, які за своєю суттю мають інші вимоги до обчислень, ніж навчання.
Дякую за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Хмарні служби Cirrascale.
