ASUS IoT：生成AIのパフォーマンスを向上させるNVIDIA Jetson Orin搭載のエッジAIコンピュータを発表

ニュースの要約

• ASUS IoTがNVIDIA Jetson Orin搭載のエッジAIコンピュータをアップグレードし、生成AIモデルのパフォーマンスを最大2倍に向上
• Jetson Orin NXおよびOrin Nanoシリーズのスーパーモードを実装し、AI TOPSが最大1.7倍、メモリ帯域幅が最大1.5倍に向上
• 最新のNVIDIA JetPack 6.2 SDKに対応し、幅広い生成AIモデルをサポート

概要

AIoTソリューションのグローバルリーダーであるASUS IoTは、NVIDIA(R) Jetson Orin(TM) プラットフォームを搭載したASUS IoTエッジAIコンピュータをアップグレードし、新しいスーパーモードを実装したことを発表しました。

このアップグレードにより、AI TOPSは最大1.7倍、メモリ帯域幅は最大1.5倍、生成AIモデルのパフォーマンスは最大2倍に向上します。スーパーモードでは、Jetson Orin NX 16GBモジュール搭載モデルで最大157 TOPS（スパース）を実現できるようになりました。

Jetson Orinモジュールは、Hugging Face Transformers、Ollama、llama.cpp、vLLM、MLC、NVIDIA TensorRT-LLMなどの一般的な機械学習フレームワークに対応するため、エッジアプリケーション、ロボット工学、マルチモーダルシステムに最適な選択肢となります。

また、ASUS IoTエッジAIコンピュータ（PE1102N、PE1101N、PE1100N）は、最新のNVIDIA JetPack 6.2 SDKに対応しており、大規模言語モデル（LLM）、視覚言語モデル（VLM）、ビジョントランスフォーマー（ViT）など、幅広い生成AIモデルに対応しています。

編集部の感想

生成AIのパフォーマンス向上は注目ポイントですね。エッジデバイスでも高度な生成AIを活用できるようになるのは面白い
様々な機械学習フレームワークに対応しているのも魅力的です。ユーザーのニーズに柔軟に対応できそうです
頑丈な筐体で幅広い温度範囲に対応しているのも、屋外での活用に向けて魅力的だと思います

編集部のまとめ

ASUS IoT：生成AIのパフォーマンスを向上させるNVIDIA Jetson Orin搭載のエッジAIコンピュータを発表についてまとめました

ASUS IoTが発表したNVIDIA Jetson Orin搭載のエッジAIコンピュータは、生成AIのパフォーマンスを最大2倍まで向上させるというニュースでした。

スーパーモードの実装により、大規模言語モデル（LLM）、視覚言語モデル（VLM）、ビジョントランスフォーマー（ViT）などの生成AIモデルが高速に処理できるようになりました。また、Jetson Orinモジュールが幅広い機械学習フレームワークに対応していることから、様々なAIアプリケーションに活用できそうです。

さらに、頑丈な筐体設計と幅広い温度範囲への対応など、エッジデバイスとしての性能も備えているため、屋外での利用にも適していると評価できます。

生成AIの需要が高まる中、ASUS IoTのこの取り組みは注目に値するでしょう。エッジでの生成AIの活用が広がることで、新しいAIソリューションの創出が期待できます。

参照元：https://prtimes.jp/main/html/rd/p/000001407.000017808.html