米アンソロピック、安全対策強化したミュトス級AIを一般提供開始

米国のAI新興企業アンソロピックは9日、高性能なAIモデル「クロード・ミュトス」と同等のモデルについて、一般の顧客向けに提供を始めたと発表しました。発表によると、同社はこれまでミュトスについてサイバー攻撃に悪用されるおそれがあるとして、一般向けの提供を見送っていたとのことです。今回の提供開始に際しては、悪用される可能性のある指示に対して直接答えないなどの安全対策を加えたと同社は説明しています。

AI技術の進展に伴い、高性能モデルの安全性確保はAI業界全体における重要な課題となっています。大規模言語モデルの一般提供拡大は、生産性向上やビジネス応用の機会をもたらす一方で、悪用リスクへの対応が投資家や規制当局の監視対象となっています。アンソロピックの安全対策の実効性は、今後の業界トレンドや企業評価に影響を与える可能性があり、AI関連企業の株価やVC投資動向を注視する市場参加者にとって重要な指標となるでしょう。

Source: NHKニュース|国際