業界・業務から探す
導入目的・課題から探す
データ・AIについて学ぶ
News
Hakkyについて
ウェビナーコラム
◆トップ【ニュース】
川村教授、金融業界のAI代替警告オートバックス、接客AI実証開始DoubleVerify、TrustArcから責任あるAI認証を取得楽天、AI戦略を発表したOptimism 2024日立、生成AI文章見抜く新技術開発岸田総理、生成AIのリスク対策を議論GMO、AI画像生成サービス開始町田市、AIナビで市民サービス向上AIバブル崩壊の懸念、株式市場大荒れアジラと新日本ビルサービス、AI警備で業務提携ChatGPTの急成長と人間の脳力ファミリーマート、AIアシスタントに生成AI機能を搭載ハイチ代表、選手村の食事に激怒米株急落、AIバブル崩壊の兆しアドビ調査、日本のマーケターの生成AI活用状況ゴールドマン、韓国とインドのAI機会を評価日本政府、AIリスク管理ガイドラインを発表Sentience Institute、AIの感覚性に関する調査結果を発表スムージースタジオ、超RIZIN.3で生成AI映像を制作茂木健一郎、AIと人間の価値を考察自治体AI zevo、GPT-4o miniを提供開始OpenAIとPerplexity AIの最新動向日本農薬、AIで農業のスマート化推進アマゾンと東京大学、合成データ活用事例を紹介カリフォルニア大学、AIのチューリングテスト実験を実施国産AI開発、海外勢に挑む日本企業グーグル、数学オリンピックでAIが成功アマゾンとアンスロピック提携、英当局が調査開始富士通、国際体操連盟とAI採点システム開発AIの進化がもたらす技術的失業の影響
AI

執筆者:Hakky AI

茂木健一郎、AIと人間の価値を考察

ニュースの要点

info
3行まとめ
  • 脳科学者の茂木健一郎さんが「Developer eXperience Day 2024」でAIアライメントについて講演した。
  • ChatGPTなどの**大規模言語モデル(LLM)**は、回答に対する確信度を報告できないという問題がある。
  • 茂木さんは、**汎用人工知能(AGI)**の議論が人間の脳の働きを考慮していないと指摘し、**AGC(Artificial General Competence)**の概念を提案した。

ニュース詳細

脳科学者の茂木健一郎さんは、日本CTO協会が開催した「Developer eXperience Day 2024」において、AIアライメントというテーマで講演を行いました。AIアライメントとは、AIの目的や行動を人間の価値観や倫理に合致させることを目指す研究分野であり、茂木さんはこの分野における人間とAIの関係について哲学的な考察を展開しました。

茂木さんは、ChatGPTなどの**大規模言語モデル(LLM)**に関する興味深いデータを紹介しました。それによると、LLMは正答率が0%でも90%以上の確信度を示すことがあるとのことです。この現象は、認知科学における「メタ認知」の問題に関連しており、AIが自らの知識レベルを把握できないことが、信頼性の低下につながると指摘しました。

将来的には、**汎用人工知能(AGI)**の議論が進む中で、人間の脳の働きをより深く理解し、AIの進化を「インテリジェンス」ではなく「コンピテンス」に基づいて捉えることが重要になるでしょう。茂木さんは、AIの進化が人間の脳のように特化した能力を伸ばす方向に進むことが現実的な目標であると述べています。

出典

2025年06月14日に最終更新
読み込み中...