VRAM96GBが使える環境が増えてきていますね。そんな中、どのLLMを使うのがいいか考えてみます。 候補としては、gpt-oss-120b、GLM-4.6V、Qwen3-Coder-Nextがあります。 で、まあ、安定性のgpt-oss、汎用性のGLM、複雑なコードはQwen3、という感じで使いわけがいいんではないかと。 常用チャットは画像対応のGLM-4.6Vかな...
世界有数の大富豪にして、歴史・社会・文化にも造詣が深い「米経済界のご意見番」。運用資産20兆円を超えるヘッジファンド「ブリッジウォーター・アソシエイツ」創業者のレイ・ダリオ氏が、ターニングポイントを迎える日本の政治と経済に関する長文寄稿を寄せた。迷える日本国民の姿は、彼の目にどう映っているのか。 日...
ソートはコンピュータサイエンスにおける古典的なタスクですが、これが最先端の LLM と結びつき、新たな研究の潮流が生まれています。 ソートは比較関数さえ定義すれば実行することができます。従来の比較関数は身長・金額・距離のように測定可能な数値の比較を前提としていましたが、この比較関数内で LLM 呼び出しを行...
SpaceXが米FCCに最大100万基の衛星による軌道上データセンター構想を申請。AIブームで2024年に415テラワット時に達したデータセンター電力消費に対し… 【編集部解説】 宇宙データセンターというコンセプトは、一見すると理想的なソリューションに思えます。しかし、今回のVoyager Technologies CEOの発言は、この夢のよ...
企業が自社でデータセンターを所有するには膨大なコストや土地の取得、政治家への根回しなどが必要だと思うかもしれませんが、自動運転スタートアップのComma.aiは、わずか500万ドル(約7億8000万円)という低コストで自社製データセンターを所有しています。一体どのようにして500万ドル規模の自社データセンターを構築・...
こんにちは。Webエンジニアとして6年目を迎えた、34歳のパパエンジニアです。 未経験からこの業界に飛び込んで、気づけばもう中堅。以前は自社で新人のトレーナーなんかもやっていましたが、最近は現場での開発にどっぷり浸かりつつ、夜な夜な家族が寝静まった後に個人開発でアプリリリースを目指してコードを書いていま...
米エヌビデイアがけん引するAI（人工知能）半導体市場。米ビッグテックを中心とする需要の増加で大増産が迫られているが、その製造をほぼ1社で担う台湾積体電路製造（TSMC）の生産能力は逼迫している。特集『AI産業戦争 米中覇権に呑まれる日本』の＃11では、AI半導体の大増産のチャンスを捉えて商機を獲得した日本企業...
WSLにはかなりお世話になってきたし、正直そこまで不満はなかったです。 ただ、ビッグデータ寄りの分析を回すときにメモリ不足が頻発して、コード側に余計な工夫を入れるのがしんどくなってきました。 「そこまで変わらんだろ」と思いつつネイティブLinuxに移行したんですが、結論としては想像以上に快適でした。 いまは...
長時間のゲームプレイ映像からAIが重要シーンを解析・抽出し、字幕やナレーション付きの縦型ショート動画をローカル環境で自動生成できる「AutoShorts」が公開されています。 divyaprakash0426/autoshorts: Automatically generate viral-ready vertical short clips from long-form gameplay footage using AI-powered ...
さらにこれが2ターン目、3ターン目とループ回数が増えるごとに90%に漸近します (なお、Context Windowの実効制限があるため、だいたい85%安いというイメージを持つとよいでしょう)。キャッシュはスループットやレイテンシの恩恵もあるため、現代的なAI Agentでは必須のものとなります。 これはvLLM等でセルフホスティン...
「GPU」に関連する商品は見つかりませんでした