Этот новый бесплатный инструмент позволяет легко обучать модели ИИ самостоятельно.
Gigabyte объявила о выпуске AI TOP, собственной программной утилиты, предназначенной для предоставления домашним пользователям расширенных возможностей обучения моделям искусственного интеллекта. Впервые появившись на выставке Computex в этом году, AI TOP позволяет пользователям локально обучать и настраивать модели ИИ с емкостью до 236 миллиардов параметров при использовании с рекомендуемым оборудованием.
AI TOP — это, по сути, комплексное решение для тонкой настройки локальной модели ИИ, повышающее конфиденциальность и безопасность конфиденциальных данных, обеспечивая при этом максимальную гибкость и возможность корректировки в реальном времени. По словам Gigabyte, утилита имеет удобный интерфейс и была разработана, чтобы помочь начинающим и опытным пользователям легко ориентироваться и понимать информацию и настройки. Кроме того, в состав утилиты входит AI TOP Tutor, который предлагает различные решения AI TOP, руководство по настройке и техническую поддержку для всех типов операторов моделей ИИ.
В настоящее время программное обеспечение поддерживает более 70 моделей LLM с открытым исходным кодом от Hugging Face, включая популярные варианты, такие как Baichuan 2, Distill-GPT2, GLM4, Llama 2 и Llama 3. Несмотря на то, что Hugging Face содержит более 770 000 моделей, выбор AI TOP ограничен. из-за ограничений объема памяти, присущих аппаратному обеспечению настольных ПК.
Бесплатное программное обеспечение оптимизировано для оборудования Gigabyte, включая материнские платы, твердотельные накопители, видеокарты и блоки питания. Поддерживаемые графические процессоры включают большинство серий Gigabyte Nvidia GeForce RTX 40 , AMD Radeon RX 7900, а также Radeon Pro W7900 и W7800. Для обеспечения оптимальной производительности компания Gigabyte разместила на своем специальном веб-сайте оборудование марки AI TOP, включающее блок питания, материнскую плату, два твердотельных накопителя и три видеокарты.
Локальное обучение моделей ИИ обеспечивает повышенную конфиденциальность и безопасность за счет хранения данных в вашей системе, экономическую эффективность за счет отсутствия платы за облачные услуги и более быструю обработку с уменьшенной задержкой. Он обеспечивает настройку и контроль над средой обучения, обеспечивает автономные возможности и масштабируемое управление аппаратными ресурсами.
Пользователи получают выгоду от немедленной обратной связи и итераций, устранения ограничений на передачу данных и полного использования существующего оборудования. Этот подход способствует практическому обучению и экспериментированию, что делает его идеальным для новичков и опытных пользователей, которым требуется безопасное, гибкое и эффективное решение для обучения искусственному интеллекту.
Вы можете бесплатно загрузить утилиту AI TOP с официальной веб-страницы Gigabyte . Хотя он доступен для всех пользователей, он поддерживается только в системах Linux.