178{icon} {views} 複数のLLM（GPT/Claude3）とArxivの検索APIをRAGで統合し、論文サーベイの自動生成を作りました。検索結果の前処理や、サーベイ特有のプロンプトエンジニアリングやソートが重要で、最適化手法として古くからある巡回セールスマン問題（TSP）が有効に機能しました。また、生成部分ではGPTよりClaude3...
Surface Laptop 6が搭載する見込みのQualcomm Snapdragon X Eliteと、下位版であるSnapdragon X Plusの仕様や特長、ベンチマークスコアなどを比較した結果が報告されました。 Apple Mシリーズの強力なライバルになりそうです。 Snapdragon Xシリーズの成り立ち Snapdragon X EliteとSnapdragon X Plusは、Qualcommが買収...
前回の記事では、GPUが１枚だけの環境でなるべく高速にローカルでElyzaTasks100の評価を回す方法を示した。 GPUが1枚でもローカルで高速にLLM評価を回したい！ だから次はこれ使って進化的アルゴリズムでモデルを進化させてみたいね！という話だったのだが、そんな時、まさに渡りに船のグッドタイミングでMergekit-Evolv...
生成AIブームの今、注目のキーワードが「基盤モデル」だ。大量のデータを事前学習したAIモデルのことで、少しのチューニングを施せば、さまざまなタスクに対応できる。米OpenAIの「GPT-4」といった生成AIも包含する概念だ。 さまざまな企業が生成AIを使った業務効率化を試行錯誤する中、各AIベンダーたちの間では基盤モ...
クラウドベースのデータウェアハウスサービスを展開する企業のSnowflakeが、トップレベルのエンタープライズ向け大規模言語モデル(LLM)として「Snowflake Arctic」をリリースしました。Apacheライセンス バージョン2.0で提供されるオープンなモデルとなっており、無料で商用利用も可能です。 Snowflake Arctic - LLM for...
2024年3月5日に開催されたイベントで発表した内容です。 スライドはこちら： またLTで全然時間が足りなかったので、イベント終了後にひとりで撮ったプレゼン動画がこちら： 以下、発表資料を記事として再構成したものになります。登壇後に調査した内容も追記しています。 「ローカルLLM on iOS」のデモ オンデバイスで [...
2024年4月24日、Qualcommが次世代AI PC向けのSoC「Snapdragon X Plus」を発表しました。「Snapdragon X Plus」は10コアのQualcomm Oryon CPUと、ノートPC向けとしては世界最速となる45TOPSのNPUを搭載しており、「ライバルと比べるとCPU性能は最大で37％高速」と宣伝されていますが、ニュースサイトのSemiAccurateは匿名...
こんにちは ハタ です。 Mirrativ では 2020年頃から サーバサイドの技術をPerlからGoへのシステム移行 を行っており、2024年現在でもサグラダファミリアのように移行作業は継続しています PerlとGoという2つの環境を同時に運用していますが、 基本的には 新機能は Go で実装 し、 Perlでは積極的に新規実装を行わない ...
以下の記事が面白かったので、簡単にまとめました。 ・Evolutionary Model Merging For All 1. 進化的モデルマージ「Sakana.ai」は約1か月前、「進化的モデルマージ」に関する論文を発表し、大きな話題を呼びました。 「進化的モデルマージ」を使用すると、マージで特定のコンピテンシーや資質をターゲットにすることが...
日米を拠点に世界各国で自動車産業の動向を取材するジャーナリスト。インディ500、NASCARなど米国レースにレーサーとしても参戦。自動車雑誌に多数の連載を持つほか、「Automotive Technology」誌（日経ＢＰ社）でBRICｓ取材、日本テレビでレース中継番組の解説などを務める。1962年生まれ。著書「エコカー世界大戦争の...
「ベンチマーク」に関連する商品は見つかりませんでした