TechCrunch Disrupt 2025、AIセキュリティの重要性を強調

2025年10月27日から29日までサンフランシスコで開催されるTechCrunch Disrupt 2025では、テクノロジー業界の最先端を議論するインタラクティブな円卓会議が多数開催されます。特に、人工知能（AI）の安全性、倫理、そしてセキュリティに関する議論が注目を集めています。AIの急速な進化に伴い、その潜在的なリスクと対策は、スタートアップから大企業、そして公共部門に至るまで、あらゆる関係者にとって喫緊の課題となっています。

AIエージェントの安全性とモデルの信頼性

AIシステムの開発と展開において、その安全性と信頼性を確保することは極めて重要です。以下のセッションでは、このテーマが深く掘り下げられます。

• 「モデルの訓練方法：AIエージェントを破壊せずに飼いならす」：Anthropicのモデルサイバーセーフティ責任者であるカイラ・グル氏が、AIエージェントを強力かつ安全に保つためのベストプラクティスを共有します。これは、AIの悪用を防ぎ、意図しない挙動を抑制するためのモデルアライメントと信頼性確保に焦点を当てた重要な議論となるでしょう。
• 「AI評価101：実世界AIアプリケーションの課題への対処」：Meta Superintelligence Labsのディレクターであるロヒット・パテル氏が、AIを安全に大規模展開するための評価方法について解説します。AIモデルの堅牢性と実用環境での安全性を確保するための評価フレームワークは、セキュリティの観点からも不可欠です。

大規模AIシステムのセキュリティとバイアス軽減

数百万規模のユーザーにサービスを提供するAIシステムでは、セキュリティだけでなく、公平性やバイアス軽減も重要な課題となります。Redditのプロダクトマネージャーであるレイチェル・ミラー氏による「数百万規模の検索とAIのスケーリング：Reddit検索からの教訓」では、関連性、安全性、そしてバイアス軽減のバランスを取りながら、大規模な検索および機械学習システムをスケーリングするRedditのアプローチが議論されます。これは、AIが社会に与える影響を考慮したセキュリティ対策の重要性を示唆しています。

公共部門AIにおけるセキュリティと新たな脅威

政府機関におけるAIの導入は、国家安全保障や市民のプライバシーに関わるため、特に厳格なセキュリティ要件が求められます。「火中の建設：公共部門AIで勝利するために必要なこと」と題されたセッションでは、政府がAIをどのように採用しているか、そしてそれがスタートアップや調達サイクルに何を意味するかが議論されます。公共部門AIにおけるデータ保護、システムの堅牢性、そして倫理的な利用は、セキュリティニュースとして特に注目すべき点です。

また、SuperAIの創設者兼CPTOであるブラッド・コルドバ氏とCEOのベンジャミン・クォン氏による「見えないAI革命」では、エージェントワークフローが投資家が見過ごすセクターに広がり、新たなレバレッジポイントを生み出し、古い堀を破壊していると指摘されています。この「見えない」変化は、新たなサイバーセキュリティの脆弱性や攻撃ベクトルを生み出す可能性があり、その動向を注視する必要があります。

まとめ

TechCrunch Disrupt 2025の円卓会議は、AI技術の進歩がもたらすセキュリティ上の課題と機会について深く考察する貴重な場となるでしょう。AIエージェントの安全性、大規模システムの信頼性、公共部門でのAI利用、そして新たなAIの脅威への対応は、今後のテクノロジーと社会の安全を形作る上で不可欠な要素です。これらの議論を通じて、より安全で信頼性の高いAIエコシステムの構築に向けた洞察が得られることが期待されます。

元記事: https://techcrunch.com/2025/10/23/get-hands-on-the-full-techcrunch-disrupt-2025-roundtable-agenda/