AI駆動機械の安全性促進は人との密接な協働が必要

June, 12, 2024, Tampere--タンペレ大学（Tampere University）で進行中の研究プロジェクトは、業界のニーズを満たすために、高度に自動化されたオフロード移動式機械用の適応可能な安全システムを作成することを目的としている。
調査によると、人工知能（AI）によって制御される移動式作業機械を使用する場合、公共の安全に関連する法律の遵守に重大なギャップがあることが明らかになった。

高度に自動化されたオフロード機械の採用が増加するにつれて、堅牢な安全対策の必要性も高まっている。従来の安全プロセスでは、人工知能(AI)によって制御されるシステムによってもたらされる健康と安全のリスクが考慮されていないことがよくある。

タンペレ大学で自動化を専門とする博士研究員のMarea de Koningは、人間と協働して動作する自律移動機械に特化した安全フレームワークを開発することで、技術の進歩を損なうことなく公共の安全を確保することを目的とした研究を行っている。このフレームワークは、相手先ブランド供給 (OEM)、安全およびシステム エンジニア、および業界関係者が、進化する法律に準拠する安全システムを構築できるようにすることを目的としている。

人間と自律型機械のバランス
ハザードが発生する可能性のあるすべての方法を予測し、AIが危険なシナリオを安全に管理できるようにすることは、事実上不可能。われわれは、不測の事態をうまく管理する方法を見つけることにもっと焦点を当てるために、安全へのアプローチを調整する必要がある。

堅牢なリスク管理システムが必要であり、多くの場合、人間参加型の安全オプションが組み込まれている。ここでは、必要に応じて人間の監督者が介入することが期待されている。しかし、自律型機械では、人間の介入に頼ることは現実的ではない。de Koningによると、自動化を使用すると、退屈、混乱、認知能力、状況認識の喪失、自動化バイアスなどにより、人間のパフォーマンスが測定可能なほど低下する可能性がある。これらの要因は安全性に大きく影響するため、機械は自身の動作を安全に管理できるようにする必要がある。

「私のアプローチは、AI主導の意思決定、リスク評価、および不測のシナリオへの適応性により、危険を考慮する。業界のパートナーと積極的に連携し、現実に通用することが重要だと考えている。メーカーと協力することで、理論的枠組みと実用化の間のギャップを埋めることができる」（de Koning）。

このフレームワークは、OEMが準拠した安全システムを設計および開発し、製品が進化する規制に準拠することを保証することを目的としている。

既存の機械へのフレームワークの統合
2020年11月に研究を開始し、2024年11月までに研究を終える予定。このプロジェクトは、一部は産業イノベーション博士課程、一部はフィンランドのシステムサプライヤから資金提供を受けている。

4月に開始されるde Koningの次の研究プロジェクトは、安全フレームワークのサブセットを統合し、その有効性を厳密にテストすることに焦点を当てる予定。2027年1月現在、指令2006/42/ecに代わる規則2023/1230は、OEMにとって大きな課題となっている。

（詳細は、https://www.tuni.fi/）