Should AI be allowed to make important decisions during space missions without human approval?宇宙ミッション中の重要な判断を、人間の承認なしにAIに任せてよいか？

模範解答

Artificial intelligence is becoming a powerful tool in space, but I do not think it should make important decisions without human approval. One reason is that AI can make mistakes in situations it has never experienced. Space missions often face unexpected problems, and an AI system trained on past data may choose an action that seems logical to a computer but leads to disaster. A spacecraft that costs billions of dollars, or the lives of astronauts, should not depend on a decision that no human has checked. Another reason concerns responsibility. If an AI makes a serious error, it is unclear who should be held responsible: the engineers, the space agency or the company that made the software. Requiring human approval keeps responsibility clear. I accept that AI can handle simple tasks, such as finding a safe path for a rover. However, final decisions on critical matters should remain in human hands.

日本語訳を見る

人工知能は宇宙で強力な道具になりつつありますが、私はAIが人間の承認なしに重要な判断を下すべきだとは思いません。理由の一つは、AIは経験したことのない状況で間違いを犯すことがあるからです。宇宙ミッションではしばしば予期せぬ問題が起こり、過去のデータで訓練されたAIは、コンピューターにとっては筋が通っていても大惨事につながる行動を選ぶかもしれません。何十億ドルもする宇宙機や宇宙飛行士の命が、人間がだれも確認していない判断に左右されるべきではありません。もう一つの理由は責任に関することです。もしAIが重大な誤りを犯したら、技術者、宇宙機関、ソフトウェアをつくった企業のうち、だれが責任を問われるべきかがはっきりしません。人間の承認を必須にすれば、責任の所在が明確に保たれます。探査車のために安全な道を探すといった単純な作業はAIに任せられることは認めます。しかし、重大な事柄についての最終判断は人間の手にとどめておくべきです。