NVIDIA(R)エッジAIプラットフォーム：アドバンテック株式会社がオープンソースLLMの強化を実施

ニュースの要約

• アドバンテック株式会社は、NVIDIA(R)エッジAIプラットフォームを活用してオープンソースLLMの強化を発表
• NVIDIA(R)のフルスタックコンピューティングプラットフォームやTensorRT-LLMの最適化、Jetson(TM)プラットフォームを用いて、エッジで高速かつ迅速なAI推論を実現
• リアルタイムエッジ処理向けの低消費電力・コンパクトなAI推論から、高速で効率的なLLM推論まで、幅広い製品ラインナップを提供

概要

アドバンテック株式会社は、NVIDIA(R)エッジAIプラットフォームを活用し、オープンソースの大規模言語モデル（LLM）の導入に新たな進化をもたらすことを発表しました。

同社は、DeepSeekやLlamaなどのオープンLLMに対応し、NVIDIA(R)のフルスタックコンピューティングプラットフォームやTensorRT-LLMの最適化、Jetson(TM)プラットフォームを用いて、エッジで高速かつ迅速なAI推論を実現しています。

アドバンテックのNVIDIA(R)エッジAIプラットフォームは、軽量な推論から大規模なAIモデルのトレーニングまで、さまざまなLLM導入ニーズに対応するスケーラブルなソリューションを提供しています。リアルタイムエッジ処理向けの低消費電力・コンパクトなAI推論から、高速で効率的なLLM推論まで、幅広い製品ラインナップを取り揃えています。

さらに、Llamaモデルの調整やドメイン適応にも対応し、特定業界向けのカスタムLLMを提供することで、企業向けAIアシスタントやサイバーセキュリティ、ヘルスケアなど、様々な分野での活用が期待されます。

アドバンテックは、NVIDIA(R)の技術を活用し、エッジAIの加速とオープンソースLLM導入の限界を広げ、業界におけるAIを活用した変革を支援していきます。

編集部の感想

オープンソースLLMの活用が広がりつつある中で、ハードウェアベンダーが機能拡張に取り組むのは非常に注目される動き
幅広い用途に対応できるラインナップが魅力的で、特に軽量なエッジデバイスでのLLM活用が進むことが期待できる
企業向けAIアシスタントやセキュリティなど、特定分野での応用が検討されているのも興味深い

編集部のまとめ

NVIDIA(R)エッジAIプラットフォーム：アドバンテック株式会社がオープンソースLLMの強化を実施についてまとめました

アドバンテック株式会社は、NVIDIA(R)エッジAIプラットフォームを活用し、オープンソースLLMの強化を発表しました。NVIDIA(R)の最新テクノロジーを駆使して、DeepSeekやLlamaなどのオープンLLMに対応し、エッジでの高速・高効率な推論を実現しています。

同社のラインナップは、リアルタイムエッジ処理に最適なコンパクトなモデルから、高性能なAIトレーニングサーバまで多様で、幅広い用途に対応可能です。企業向けAIアシスタントやセキュリティ、ヘルスケアなど、特定分野でのカスタマイズも可能とのことで、オープンLLMの実装をより身近にする取り組みだと言えるでしょう。

今後、ハードウェアベンダーがオープンソースLLMの機能拡張に乗り出すことで、エッジ環境でのAI処理がさらに進化していくことが期待されます。ユーザーニーズに即したプラットフォームの提供により、オープンLLMの活用がより広がることが期待できます。

参照元：https://prtimes.jp/main/html/rd/p/000000157.000073476.html