安全性を重視したAIモデル開発企業
大規模言語モデルは、計算資源とデータ量を増やせば増やすほど性能が向上するため、まず能力を高めることを最優先し、安全性への配慮は後から付け加えれば良い、というのがAI開発における長年の考え方だった。
能力を高めてから安全性を付け加えるのではなく、モデルの学習プロセスそのものに安全性を組み込むことで、能力と安全性を同時に追求できるようにした。
Anthropicは、アメリカ・カリフォルニア州サンフランシスコに本社を置く企業で、大規模言語モデル「Claude（クロード）」シリーズの研究開発を行っている。対象となるのは、AIを業務や日常生活に取り入れたい個人・企業から、AIの安全性研究に関心を持つ研究者・政策立案者まで幅広い。 AI言語モデルの開発においては、計算資源を投入すればするほど性能が向上するというスケーリング則が広く信じられており、多くの企業がまず能力の向上を優先し、安全性への対応は後回しにされがちだった。Anthropicは、この考え方に対し、モデルの学習段階から安全性を組み込む「Constitutional AI」と呼ばれる手法を開発し、あらかじめ定めた原則の集合（憲法）に沿うようモデル自身に振る舞いを調整させる仕組みを確立した。 同社は、Public Benefit Corporation（公益法人）という法人形態を採用しており、株主の利益だけでなく、安全で信頼できるAIを社会に届けるという公益的な目的を、経営判断の中に明確に位置づけている。Claudeは、ウェブブラウザやAPI、モバイルアプリ、デスクトップアプリなど複数の形態で提供されており、Amazon BedrockやGoogle Cloud、Microsoft Foundryといった主要クラウドサービスを通じても利用できる。
StarTextで全文を読む →