AIと監視システムの進化

Jun 21, 2023

この Help Net Security のインタビューでは、Oddity の CTO である Gerwin van der Lugt が監視の将来と AI の影響について語ります。 また、組織がシステムによる偏見の永続や個人の権利の侵害を防ぐ方法についても詳しく説明しています。

Oddity は比較的若い会社であり、当初からプライバシーの保護と倫理的なソフトウェアの実践を考慮することができました。 当社は「プライバシー・バイ・デザイン」の原則を実践しています。 たとえば、既存のビデオ管理システムにはすでにその機能があるため、当社のソフトウェアはデフォルト設定ではビデオ データをまったく保存しません。

さらに、トレーニング目的で顧客データを使用することはありません。 ほとんどの場合、当社の設備はインターネットに接続されていないため、メンテナンスやトラブルシューティングのために物理的なアクセスが必要です。 こうした不便さにもかかわらず、それでも価値があると私たちは信じています。 特に、監視下にある人々がプライバシーをほとんどコントロールできない拘置所などのデリケートなエリアの場合はそうだ。 結局のところ、私たちのソフトウェアは人々を助け、保護することを目的としており、私たちの目標はプライバシーへの影響をできる限り少なくすることです。

カメラ監視の導入を成功させるには、セキュリティ カメラ、センサー、その他のハードウェア、ビデオ管理システム、およびネットワーク自体の間の繊細な相互作用が必要です。 最大の課題は、最新のカメラの増え続ける帯域幅要件をサポートできるネットワーク インフラストラクチャを構築することです。

監視設備は時間の経過とともに拡大する傾向があり、カメラの数が増えると、ネットワークの帯域幅の制限に達します。 故障したカメラの交換は 1 台のカメラのみに影響するため、メンテナンス作業は簡単です。 ネットワーク インフラストラクチャを交換して帯域幅を 2 ​​倍または 3 倍にすることは非常に困難であり、設置全体を通じてネットワーク ハードウェアを確認して交換する必要があります。

インテグレータがカメラのフレーム レートまたはビットレート設定を下げて必要な帯域幅の量を減らすことで、この問題を回避しようとしているのをよく見かけます。 一見、実行可能なソリューションのように見えますが、AI を活用した監視の場合、問題を引き起こす可能性があります。 機械学習モデルは、人間の目ではほとんど検出できないような小さな視覚的な違いに敏感です。 特に、アルゴリズムが高品質の入力でトレーニングされた場合、低品質のビデオ ストリームでは問題が発生する可能性があります。

そのため、監視ネットワーク インフラストラクチャを最初から構築する場合は、事前に計画を立て、帯域幅容量を拡張できる十分な余裕を持って構築することをお勧めします。 これにより、長期的にはコストが削減され、AI を活用した将来に向けた設置の準備が整います。

物理ハードウェアに関しては、上記の推奨事項に沿って、十分な帯域幅を確保することが重要な要素です。

さらに重要なことは、監視の未来は AI であり、組織は AI を念頭に置いて監視システムを設計する必要があるということです。 典型的なカメラ監視センターでは、ビデオフィードが表示されたマトリックススクリーンの壁を人々が見ている可能性がありますが、インシデントが発生するとすぐに積極的に警告される可能性があります。 同じ人数のスタッフがいれば、より効率的になります。

最初のステップは、最も関心のあるインシデントのタイプを決定することです。AI ソリューションは、多くのインシデント タイプに対応しています。 AI を最初から検討し、できるだけ早く AI ベンダーを関与させることが重要です。 2023 年の時点では、AI はまだ人間を完全に置き換える準備ができていません。 組織は、ギャップを監視して埋めながら、人間が関与するハイブリッド展開をセットアップすることが賢明です。

AI モデルは、トレーニングに使用されるデータセットの影響を受けます。 AI ベンダーは、バイアスの発生を防ぐためにデータセットを慎重に調整し、バランスをとることが不可欠です。 データセットのバランスをとることは手動のプロセスであり、データセットに表示される人間が現実を適切に表現しており、特定の人間の特性に対する偏見がないことを確認する必要があります。 私たちの場合、世界中の多様なアクターのグループを使用して、トレーニング データセットに対して暴力を演じ、バランスが取れていることを確認します。 さらに、そのようなバイアスがないか定期的にテストすることは大いに役立ちます。