はじめに：AI企業の深刻な秘密漏洩問題
包括的なセキュリティ分析により、驚くべき実態が明らかになりました。主要なAI企業の65%がGitHub上で認証済みの秘密情報を漏洩しており、これにより重要なAPIキー、認証トークン、機密性の高い資格情報が露呈し、企業全体が危険にさらされる可能性があります。
研究者たちは、Forbes AI 50リストに掲載されている50社の著名なAI企業を調査し、その約3分の2が認証済みの秘密情報を漏洩していることを発見しました。これらの漏洩は、目立つ場所に限定されていたわけではありません。削除されたリポジトリのフォーク、Gist、開発者リポジトリの奥深くに隠されており、多くは従来のスキャンツールでは検出されませんでした。影響を受けた企業の合計評価額は4,000億ドルを超え、この脆弱性が広範囲に及んでいることを浮き彫りにしています。
現代における秘密漏洩の構造
今日の秘密漏洩は、氷山のようなものです。表面には、アクティブなリポジトリに直接コミットされた資格情報という明白なリスクがあります。しかし、その下には、より深いレベルの露出が潜んでいます。削除されたフォークは完全なコミット履歴を保持しており、古い秘密情報が永続的にアクセス可能になっています。ワークフローログには、自動デプロイメント中に使用された資格情報が含まれています。AI企業に雇用されている開発者の個人リポジトリには、誤ってコミットされ忘れ去られた組織の秘密情報が格納されていることがよくあります。この多層的な露出は、従来のスキャナーが見逃す複数の攻撃ベクトルを生み出します。
研究方法論は、標準的なGitHub組織検索をはるかに超えて、フォークされたリポジトリ、削除されたフォーク、ワークフロー構成、さらにはターゲット企業との関連性を示す個人の開発者アカウントのコミット履歴を調査しました。
漏洩した機密情報の具体例とその影響
漏洩した資格情報は、AI企業のインフラストラクチャにおける最も価値のある資産の一部でした。WeightsAndBiasesのトークンは、プライベートな機械学習モデルのトレーニングデータを露呈させました。HuggingFaceの認証トークンは、数千のプライベートモデルリポジトリへのアクセスを許可しました。ElevenLabsのAPIキーとLangChainの組織資格情報は、独自のシステムと機密性の高い組織情報へのゲートウェイアクセスを提供しました。
即座の機能的な侵害を超えて、これらの漏洩は、脅威アクターがターゲティングやソーシャルエンジニアリング攻撃に非常に価値があると見なす組織構造、メンバーリスト、内部関係を明らかにしました。ある注目すべきケースでは、HuggingFaceトークンを含む削除されたフォークが、約1,000のプライベートモデルへのアクセスを提供し、さらに多数のWeightsAndBiasesキーが多数の独自のシステムのトレーニングデータを開示しました。
漏洩防止の可能性と業界の対応
この調査は、企業がこれらの露出を防ぐことができるという心強い詳細も明らかにしました。あるAI企業は、60の公開リポジトリと28人の組織メンバーを抱えながらも、秘密情報の漏洩を一切防いでいました。これは、堅固な秘密情報管理戦略が実際に機能することを示唆しています。公開フットプリントが最小限の企業でさえ漏洩を経験しており、規模が大きくなると露出が避けられないわけではないことを証明しています。
LangChainやElevenLabsのような業界リーダーは、開示された脆弱性を認識し、迅速に修正しました。しかし、全体的な開示状況は依然として困難です。報告された漏洩のほぼ半分は、ターゲットに到達しなかったか、応答がありませんでした。多くの企業は公式の開示チャネルを欠いているか、セキュリティレポートを無視していました。
AI企業に求められるセキュリティ対策
AI革命をリードしようと競い合う組織は、直ちに3つの重要なセキュリティ対策を講じる必要があります。
- すべての公開バージョン管理システムに強制的な秘密情報スキャンを今すぐ導入すること。これは、組織の規模やリポジトリの数に関係なく、交渉の余地のないものです。
- 最初から適切な開示チャネルと対応手順を確立すること。若いAIスタートアップは、セキュリティプログラムを後回しにするのではなく、基盤となる要素として扱う必要があります。
- AIサービスプロバイダーは、広範なセキュリティコミュニティと協力し、新しい独自の秘密情報形式が数千のリポジトリに広がる前に、検出ツールがそれらをサポートするようにする必要があります。
まとめ
AIの未来はスピードと革新にかかっています。しかし、その革新自体が侵害されるならば、その未来は無価値になります。すべてのAI企業にとって、秘密情報の保護は、進化する能力に追いつく必要があります。
元記事: https://gbhackers.com/65-of-top-ai-firms-found-exposing-verified-api-keys/