OpenAIがPromptfooを買収し、AIセキュリティテストを強化

Investing.com – OpenAIはPromptfooの買収を計画していると発表しました。PromptfooはAIセキュリティプラットフォームであり、企業が開発過程でAIシステムの脆弱性を特定し修正するのを支援します。同社は、買収完了後にPromptfooの技術をOpenAI Frontierプラットフォームに統合すると述べており、このプラットフォームはAI協働ツールの構築と運用に使用されます。

Promptfooのツールは現在、フォーチュン500企業の25%以上で利用されています。このプラットフォームには、オープンソースのコマンドラインインターフェースと、大規模言語モデルアプリケーションの評価やレッドチームテストに使用されるライブラリが含まれています。OpenAIは、Frontierの企業向け機能の一部としてこのオープンソースプロジェクトの開発を継続すると述べています。

Promptfooのチームは、Ian WebsterとMichael D’Angeloが率いています。OpenAIのB2Bアプリケーション担当最高技術責任者（CTO）のSrinivas Narayananは、Promptfooが企業向けAIシステムの評価、安全性、テストにおいてエンジニアリングの専門知識をもたらしていると述べています。

OpenAIは、Frontierを利用する企業向けにいくつかの機能を構築する計画を示しています。同社はプラットフォームに自動化されたセキュリティテストやレッドチームテスト機能を直接追加し、プロンプトインジェクション、ジャイル化、データ漏洩、ツールの乱用、ポリシー違反などのリスクを特定するのに役立てます。セキュリティと評価のツールは開発ワークフローに統合され、報告や追跡可能性の機能も含まれ、ガバナンス、リスク管理、コンプライアンスの要件をサポートします。

Promptfooの共同創設者兼CEOのIan Websterは、同社の設立目的は開発者にとって実用的なAIシステム保護の方法を提供することだと述べています。Websterは、OpenAIへの参加により、チームは安全性、安全保障、ガバナンス能力の向上に向けた取り組みを加速できると述べています。

この記事は人工知能の支援を受けて翻訳されました。詳細については、利用規約をご覧ください。