原因調査結果レポート
火星・エリシウム基地での人身事故からほぼ5年の月日が経過した。
事故の内容、および社会的影響を考慮し、事故の内容については関係者以外極秘事項とされ、
報道関係者含め、当原因調査結果と考察のとりまとめが完了するまでの間、緘口令が敷かれた。
ここに原因調査結果および、事故原因についての考察のまとめが完了したので報告する。
なお、事故の詳細な経緯については、別紙資料を参照の事。
ここでは事故原因、および事故原因を踏まえたうえでの考察について述べる。
＊ ＊ ＊ ＊
[事故原因]
火星のエリシウム平原に2040年代初頭から、アメリカ合衆国含め10か国共同で基地の建設が行われ、
2049年時点では、第二期工事も完了し、入居者は200人を超えるまでに達していた。
惑星移住のための実証実験および、外部からの補給に依存しない生活を目指し、
食料、水、空気すべてを火星からの現地調達とし、社会インフラや行政サービスも地球に頼らないことを目指し、
管理システムについても地球から独立したものを構築し、自動化システムによる管理を目指すこととした。
自動化システム、自己判断システムについては、地球上でも普通に利用され、
実際のところ空港の管制システムレベルのものを使用し、
実績が十分にある仕組みを使用したため、運用上何の問題もないと考えられた。
しかしながら結果として、自動化システムは判断を誤り、
空港ゲートの通過の際に居住者の一人を危険人物と判断し、
その居住者は判断誤りであることを指摘したにもかかわらず、
自動化システムの判断を重視した検査官、
および行政担当者の官僚的な行動により、居住者に対する過酷なまでの対応を行い、
当の本人は精神に異常をきたす事となり、事故は発生した。
別紙資料に示す通り、当居住者には過去の犯罪履歴はないことが証明されている。
基地の自動化システムは、自身の保持する大量のデータをもとに、
彼を将来犯罪の可能性のある人物と間違って判断した。
そのことが今回の事故原因である。
[真の原因]
別紙資料にて述べた通り、これは基地の自動化システムの判断ロジックの問題である。
膨大な量の記録データ、個人情報すべてを処理し、分類し、対象となる個人がセキュリティ上問題ない人物であるか、
判断に際しては、ひたすらデータとの照合にもとづき処理を行い、人間のように私情を挟むということはない。
処理は非常に速く、かつ非常に正確である。
しかし、全体最適化の考え、全体としてどうあるべきかというロジックは、近年、問題となる事象を起こしてきた。
一言で言えば、すべての人にとっての幸せは、ある一部の人々にとっては不幸になることもある、ということである。
例えていえば、現在においても解決されていない貧困問題については、
行政サービスを公平に分配することで解決を計ろうとしたものの、
かえって社会的ゆがみを大きくしてしまった、といったものである。
自動化システムの開発にあたっては、開発者はいかに全体を最適化し、
公平にサービスを分配させることを前提に考慮を行ったはずが、
この事がかえって一部の人々に不幸を招く結果となってしまった。
今回のエリシウム基地での事故のみならず、同様の事例は公式、非公式すべての事例を含めると、
その数はかなりのものとなり、今や無視できない件数となった。
全体最適化ロジックにより生み出される不幸については、このまま解決しない限り、
同様の事例がさらに増加することが予測される。
[今後に向けての考察]
全体最適化ロジックについては、目指すところは正しいものではあるが、
ここでもし廃棄することを決定するならば、私たちは時代を逆行させる事になる。
高度化した社会においては、大量の情報を正しく処理し、
全ての人に公平な社会サービスを提供する自動化システムは、必要不可欠なものである。
それなくしては、社会はあるところで大量の情報の洪水の中に埋もれ崩壊する可能性がある。
また、システムの維持管理の観点からも、自動化システムがなければ、
エンジニアはいつまでも文字通り手作業での維持管理に追われ、システムの奴隷となるだけである。
高度化し、全体像をだれも理解できない、巨大化したシステムを暴走させないためにも、
全体最適化ロジックは必要不可欠である。
これから先、前に進むのか、それとも一旦は立ち止まって考え直すのか。
ひとつの事例ではあるものの、エリシウム基地での事故は、将来に向けての重い課題として目の前に突き付けられている。
今回の課題解決のためのタスクを立ち上げることは既に決まっており、
数年内には、新しい設計思想にもとづいたシステムの実証実験が開始される予定である。
全体最適化ロジックは、社会にとっては非常に有用ではあるものの、時として冷酷無比であり、
人類にとっては、かつての独裁者がそうであったように、最初は歓迎されバラ色の将来が約束されると期待したものの、
大量破滅と虐殺の悲劇を生み出す事となり、巨大なトラウマとして人類の歴史に刻まれることとなった。
新しく作られるシステムが、そうならないことを切に願う。