На взломанной PS5 запустили нейросеть с 27 млрд параметров - она выдает около 21 токена в секунду

Пользователь Reddit доработал проект PS5LM и запустил на взломанной PS5 сжатую языковую модель с 27 млрд параметров. По его тесту, модель генерирует около 21 токена в секунду.

Читать полностью на Playground

Краткий пересказ подготовлен нейросетью по заголовку и анонсу из источника. Подробности и все детали - в оригинале.