こんにちは！山崎光春です。
OpenAIは、次世代の大規模言語モデル「GPT-5」のトレーニングを開始したことを発表しました。同時に、CEOのサム・アルトマンを委員長とする安全保障委員会を設置し、GPT-5の安全性評価に着手しました。[1][2][4]
安全保障委員会は、ブレット・テイラー取締役を委員長に、アダム・ディアンジェロ取締役、ニコール・セリグマン取締役らで構成されています。同委員会は、今後90日間にわたり、GPT-5のプロセスと保護措置を徹底的に評価し、提言を取りまとめます。評価結果は取締役会全体で検討された後、安全とセキュリティに配慮した上で公表される予定です。[1]
委員会には、OpenAIの技術・政策の専門家であるAleksander Madry準備部門長、Lilian Weng安全システム部門長、John Schulmanアラインメントサイエンス部門長、Matt Knightセキュリティ部門長、Jakub Pachocki最高科学者らも参加しています。さらに、元サイバーセキュリティ当局者でOpenAIのセキュリティアドバイザーを務めるRob Joyce氏やJohn Carlin氏などの外部専門家も起用され、この活動をサポートします。[1]
GPT-5は、GPT-4の10倍から20倍の計算リソースを使用し、10倍の量の推論データでトレーニングされる見込みです。パラメータ数は2兆から5兆と予想されており、マルチモーダル推論能力の大幅な向上が期待されています。[5] しかし、同時に誤った情報の生成(ハリュシネーション)や有害なコンテンツの生成など、さまざまなリスクが指摘されています。[2]
OpenAIは、GPT-5の能力向上と並行して、安全性の確保にも注力しています。ユーザーからのフィードバックを活用し、GPT-4ではGPT-3.5に比べて40%の事実性向上を実現しましたが、さらなる改善が必要不可欠とされています。[4] 今回の安全保障委員会の設置は、GPT-5の能力と安全性を両立させるための重要な一歩と言えるでしょう。
Citations:
[1] https://platform.openai.com/docs/guides/safety-best-practices
[2] https://mpost.io/gpt-5-safety-testing-and-red-teaming-could-delay-the-models-release-beyond-summer-2024/
[3] https://www.youtube.com/watch?v=QMQqMuyvc5w
[4] https://openai.com/index/our-approach-to-ai-safety/
[5] https://klu.ai/glossary/openai-gpt-5
