「姉妹喧嘩を止めに入った父親である阿部監督が、長女の言い方に腹を立てて暴力を振るった。長女はChatGPTに助けを求め、その案内を受けて児童相談所へ相談。児童相談所が警察へ連絡し、逮捕、そして辞意表明に至った――衝撃的な経緯である。
私は、この件に「AIの限界」と「児童相談所の難しさ」を感じる。もし私がこの長女から相談を受けていたら、人間として感情を持つ立場から、もちろん状況次第ではあるが、その声がよほど切羽詰まっていると感じたなら、「警察へ直接相談する」という選択肢を示したと思う。
また、もし私が児童相談所の職員だったなら、たとえ警察との連携体制が整っていたとしても、なぜ長女が警察ではなく児童相談所に相談してきたのか、その理由をまず考えたうえで警察への連絡を判断したのではないかと思う。
もちろん、最終的に通報や対応を判断したのは児童相談所や警察であり、暴力そのものの責任は本人にある。しかし一方で、18歳の長女に対し、警察との連携体制がある児童相談所への相談を勧めたChatGPTの責任を、私たちはどう考えるべきなのだろうか。
AIは「相談窓口を紹介しただけ」とも言える。しかし、その助言が結果的に一家族の人生を大きく変える入口になった可能性もある。AIは責任を負えない存在である以上、未成年による利用には、何らかの規制や制限が必要なのではないか――そんなことを考えさせられる事件である。」