Дата публикации:

Обеспечение высокой производительности для приложений VLM и LLM на периферии

Компания Advantech выпустила MIC-743, свою новейшую вычислительную систему искусственного интеллекта на базе NVIDIA Jetson Thor. Разработанный для обеспечения производительности ИИ серверного уровня на периферии, он теперь готов к развертыванию в высокопроизводительных приложениях, таких как VLM и LLM.

Оснащенная модулем NVIDIA Jetson Thor, Jetson T5000, система обеспечивает производительность искусственного интеллекта до 2 070 FP4 TFLOPS, что позволяет делать выводы в режиме реального времени для сложных периферийных приложений. 2560 ядер CUDA и 96 тензорных ядер обеспечивают огромную вычислительную мощность для рабочих нагрузок искусственного интеллекта, таких как глубокое обучение и компьютерное зрение. Память LPDDR5X объемом 128 ГБ обеспечивает достаточную пропускную способность и емкость для работы с большими моделями искусственного интеллекта, включая вывод VLM и LLM, без узких мест. В совокупности эти функции позволяют системе одновременно выполнять мультимодальные задачи искусственного интеллекта, поддерживая VLM, большие языковые модели и интеллектуальную видеоаналитику на периферии.

Благодаря компактной конструкции промышленного класса и широким возможностям ввода-вывода MIC-743 идеально подходит для развертывания в различных средах, таких как заводы, исследовательские лаборатории и центры разработки. Он также обеспечивает бесшовную интеграцию с различными датчиками, камерами и периферийными устройствами для быстрого создания комплексных решений искусственного интеллекта. Такая гибкость позволит разработчикам и системным интеграторам ускорить свои проекты, сократить время развертывания и открыть новые возможности в интеллектуальных периферийных приложениях.

Посетите компанию на выставке Taipei Automation 2025 с 20 по 23 августа 2025 года, где она продемонстрирует разнообразные и гибкие решения на основе искусственного интеллекта, включая MIC-743, обеспечивающие стабильную основу для различных фронтальных приложений.