Користувач соціальної мережі X Андрій Девід встановив та запустив на консолі Xbox 360 модель штучного інтелекту на базі рушія Llama2.c, який написав колишній працівник OpenAI та Tesla мовою програмування C. До цього ентузіаста спонукала робота фахівців з EXO Lab, які наприкінці минулого року запустили на 26-річному комп’ютері з Windows 98 велику мовну модель (LLM) Llama.
Хоча ентузіаст використав ШІ-модель на тому самому рушії, що й EXO Lab, йому довелося оптимізувати програмний код для процесора консолі на архітектурі PowerPC та функцій керування пам’яттю. Основна відмінність полягає в тому, що в PowerPC система з прямим порядком байтів насамперед зберігає найважливіші значення. Для забезпечення правильної роботи ШІ-моделі Девіду довелося додати систему обміну байтами та забезпечити, щоб усі створювані й збережувані дані належним чином вирівнювалися по 128 байтах у пам’яті, чого вимагає підсистема пам’яті Xbox 360.
Зрештою ентузіаст запустив ШІ-модель на Xbox 360 з процесором Xenon на архітектурі PowerPC із 3 ядрами та робочою частотою до 3,2 ГГц, а також 512 Мбайт оперативної пам’яті. Запуск великої мовної моделі на основі Llama 2 на пристрої, якому вже кілька десятиліть, є суттєвим досягненням. Один із користувачів платформи X зауважив, що 512 Мбайт оперативної пам’яті в Xbox 360 має вистачити для запуску алгоритмів SmolLm від Hugging Face або 4-бітної моделі 0,5B Qwen2.5. “Виклик прийнято”, — написав Девід у відповідь на це, що означає його намір спробувати запустити на Xbox 360 інші ШІ-моделі.
Стаття з
ITsider
