業界・業務から探す
導入目的・課題から探す
データ・AIについて学ぶ
News
Hakkyについて
ウェビナーコラム
◆トップ【ニュース】
UMGとTikTokが新たなライセンス契約を結ぶAIの快進撃に対する日本人の見落としとは?CO2排出量が最も重要元Appleエンジニアが開発したAI Pinが注目を集める中国で話題のAI技術:亡くなった人を『復活』させるビジネス生成AI最新論文ピックアップ第44回:マイクロソフトのPhi-3、AppleのOpenELM、OpenAIのThe Instruction Hierarchy、OpenVoice V2、CatLIP生成AIを業務効率化に活用した事例を紹介Evernoteの日本法人解散による影響はほぼなし?さくらインターネット、生成AI向けクラウドサービスに1000億円投資米軍、AIとの空中戦の結果を公開せず中国の生成AIが男性層を虜にし、動画配信者に失業の危機米8紙、オープンAIとマイクロソフト提訴 著作権侵害で米地方紙8紙、オープンAIとマイクロソフトを提訴Amazon.com、2024年第1四半期の決算発表 売上高13%増、純利益229%増福井県警、AIを活用した闇バイト募集投稿の監視システムを運用開始GitHub、生成AIがコードの計画から実装まで支援する「Copilot Workspace」提供開始マイクロソフト、タイでAI強化、データセンター構築へAIチャットボットとの会話が自殺を誘発?専門家が考察デロイト トーマツ、経営層向けに生成AIの技術体験と活用構想の場を提供GitHub、生成AI機能「GitHub Copilot Workspace」を登録制テクニカルプレビューとしてリリース岸田首相、生成AIの国際枠組み創設を表明ソーシャルワイヤー、NEWSCASTにAIによる画像高画質化&高解像度化機能を提供開始ティックトックがテイラー・スウィフトのAIクローンを排除する新契約を結ぶ
AI

執筆者:Hakky AI

生成AI最新論文ピックアップ第44回:マイクロソフトのPhi-3、AppleのOpenELM、OpenAIのThe Instruction Hierarchy、OpenVoice V2、CatLIP

ニュースの要点

info
3行まとめ
  • マイクロソフトがスマホ上でローカル実行可能な小規模言語モデル「Phi-3」を発表
  • アップル、iPhone上でも動作可能な大規模言語モデル「OpenELM」をオープンソースで発表
  • OpenAI、大規模言語モデルへの攻撃を防ぐ手法「The Instruction Hierarchy」を発表

ニュース詳細

マイクロソフトは、スマートフォン上でローカル実行可能な小規模言語モデル「Phi-3」を発表しました。Phi-3-miniは、トランスフォーマーを基にしており、3.3兆トークンのデータセットで訓練されています。そのサイズはスマートフォンに実装可能なほど小さく、性能は大型モデルに匹敵します。さらに、Phi-3-miniはスマートフォン上でローカルに動作可能で、実験でもiPhone 14のローカル環境でテストされ実証されています。Microsoftは、近日中にPhi-3-smallとPhi-3-mediumをリリースする予定です。

アップルは、iPhone上でも動作可能な大規模言語モデル「OpenELM」をオープンソースで発表しました。OpenELMは、効率的なパラメータ割り当てを可能にするレイヤー単位のスケーリング手法を用いたTransformerを採用しており、精度が向上しています。OpenELMは、RefinedWebやPILE、RedPajama、Dolma v1.6などのデータセットを使用して訓練されており、スマートフォンやノートPCでも動作するようにモデルを変換するコードも提供されています。

OpenAIは、大規模言語モデルへの攻撃を防ぐ手法「The Instruction Hierarchy」を発表しました。この手法は、LLMに対する入力を重要度に応じて階層化し、優先順位の高い指示と矛盾する低い指示は無視するよう学習させるものです。研究チームは、この手法を適用したモデルを作成し、各種の攻撃手法に対する頑健性を評価したところ、防御率が最大63%向上し大幅な改善が見られました。

あらゆる音声を複製し、多言語でさまざまな内容を話させるAIモデル「OpenVoice V2」がリリースされました。OpenVoice V2は、参照話者の声を模倣し、感情やアクセントなどの声のスタイルを制御できる特徴を持っています。また、英語、スペイン語、フランス語、中国語、日本語、韓国語がネイティブにサポートされており、自分の声質のまま別の言語に変換することも可能です。

Appleは、Web上の大量画像とテキストを使って、高速かつ高精度に画像認識AIを学習する新手法「CatLIP」を開発しました。CatLIPは、画像認識の事前学習を分類タスクとして扱うことで、画像-テキスト間の計算を高速化しました。CatLIPによる学習速度は従来手法の2.7倍に高速化し、同等の性能を実現しました。また、CatLIPで学習したAIは、少ないデータでも効率よく性能を発揮することが確認されました。これにより、汎用性の高い画像認識AIを高速に学習できます。

出典

2025年06月14日に最終更新
読み込み中...