SambaNova、オープンソースLLMのスピードと精度を比較できるSambaverseを発表
SambaNova、オープンソースLLMのスピードと精度を比較できるSambaverseを発表【写真詳細】
SambaNova Systems(https://sambanova.ai/ja/)は開発者が何百ものオープンソースの大規模言語モデル(LLM)を試し、任意のアプリケーションに対する応答を単一のエンドポイントから直接比較できるユニークなプレイグラウンドとAPIであるSambaverse(https://sambaverse.sambanova.net/)を発表しました。 Sambaverseを使うと、Hugging Face(https://huggingface.co/)で公開されている最も人気のあるモデルの中から、開発者は一つのプロンプトで複数の大規模言語モデルを比較することができます。プロンプトを入力するとSambaverseは各モデルに同時に質問し、その応答をリアルタイムで表示します。
SambaNova Systemsの共同創業者兼チーフ・テクノロジストであるクンレ・オルコトンは次のように述べています。「MetaのLlama2、MistralAIのMistral、GoogleのGemmaのような新しいベースモデルは、強力なエキスパートモデルを作成するためにオープンソースコミュニティによって開発されています。しかし課題は、開発者がどのエキスパートモデルあるいはエキスパートモデルの組み合わせが、自分たちのユースケースに最適なのかわからないことです。現在存在する定量的なベンチマークは、モデルの品質を表していないため頼ることが出来ないのです。質的な評価こそが、どのモデルが適切かを選択する最良の方法なのです。」
「オープンソースのエキスパートモデルをテストする推論サービスもありますが、これからはマルチモーダルです。モデルの多様性とそれらを迅速に評価してワークフローを作成するために接続し、同時にアクセスする能力は、リアルタイム推論を達成する方法です。これまで、エキスパートの種類の豊富さと、これらのモデルをリアルタイムで同時評価する能力を提供するソリューションはありませんでした。Sambaverseは開発者コミュニティにとって非常に直感的な問題を解決します。」
Sambaverseの単一のインターフェイスで複数のモデルを比較する能力は独自のComposition of Experts(COE)(https://sambanova.ai/ja/technology/composition-of-experts)モデルアーキテクチャーによって実現されており、3層のメモリとデータフローアーキテクチャーを持つSambaNovaのSN40L(https://sambanova.ai/ja/press/sambanova-unveils-new-chip-the-sn40l)システム上で最適に動作します。Samba-1(https://sambanova.ai/ja/press/secure-one-trillion-parameter-generative-ai-model-for-the-enterprise)で利用可能なこのアプローチは企業や政府機関が必要とする性能、拡張性、プライバシーとアクセス制御を提供します。
Sambaverseの詳細やプレビュー登録に興味のある開発者は、以下のサイトにアクセスしてください。https://sambaverse.sambanova.net/
Samba-1に関する追加情報は、https://sambanova.ai/ja/products/samba-1 をご覧ください。
SambaNova Systemsについて
最先端の生成AI機能を企業内に迅速に展開するために、SambaNovaに注目が集まっています。 SambaNovaのエンタープライズスケールのために構築されたAIプラットフォームは、次世代の生成AIコンピューティングのための技術的バックボーンです。
カリフォルニア州パロアルトに本社を置くSambaNova Systemsは、業界の著名人や、サン/オラクルおよびスタンフォード大学のハードウェアおよびソフトウェア設計の専門家によって、2017年に設立されました。投資家には、SoftBank Vision Fund 2、BlackRock、Intel Capital、GV、Walden International、Temasek、GIC、Redline Capital、 Atlantic Bridge Ventures、Celestaなどが含まれています。sambanova.ai(https://sambanova.ai/)をご覧いただくinfo@sambanova.aiまでご連絡ください。
日本語サイト:https://sambanova.ai/jp/
プレスリリース情報提供元:ValuePress!
スポンサードリンク
SambaNova Systems Japan合同会社の記事
IT・テクノロジーの最新プレスリリース
- FANZA同人「やまなし娘。」最新作『怪盗レン』が1カ月先行で発売開始!胡桃ふゅや「FANZAキャッチ」とのコラボ企画も開催決定!
- FANZAブックス 10円セールスペシャルクエスト1,000リポスト&リプライ達成!セール対象作品がさらに3作品開放決定!
- 【GALLERIA】オリジナルTVアニメーション『夜のクラゲは泳げない』コラボキャンペーンが開催決定 第一弾はアンバサダー名刺プレゼント
- 【ドスパラ】前橋インターアカマル店・長野稲里店 配信レンタルルーム GW限定 『集めてお得!スタンプキャンペーン』開催 店舗で使えるクーポンプレゼント
- 【サードウェーブ】重さ約1.3kg軽量・大画面のハイエンド16インチノートPC発売 インテル Core Ultraプロセッサー搭載
- L Messageはステップ配信内でタグや友だち情報を自動で付与可能
- 【GALLERIA】イード・アワード2023『ゲームPCアワード2023』デスクトップPC部門 最優秀賞3連覇 感謝を込めて受賞記念限定モデルを期間限定で販売
- JAPANNEXTが13.3インチ IPSパネル搭載 WUXGA(1920x1200)解像度のモバイルディスプレイを22,980円で4月26日(金)に発売
- JAPANNEXTが27インチ IPSパネル採用 昇降式多機能スタンド搭載の4K液晶モニターを36,980円で4月26日(金)に発売
- 【GALLERIA】人気eスポーツチーム『TIE』を展開するTIECLANとスポンサーシップ契約を締結 あわせて、コラボモデルを販売開始