#035 「責任は人間が持つ」、それは何ができる状態か

こんにちは。月曜日のトラの岩永です。

先週は台風6号が和歌山に上陸し、大雨と暴風が関東まで駆け抜けました。1951年の統計開始以来4番目に早い上陸だったそうですね。

一方、AI周辺では、Ethan Mollick氏がコラム「Co-Existence and the End of Co-Intelligence」で、AIを道具として使う段階の次に来る共存のかたちを論じて話題になっていました。

今号のリレーコラムは、その足元にある問いです。

AI連載の第4回として、データエンジニア / データサイエンティストの大竹が「AIが作ったものに人間が責任を持つとは、何ができる状態なのか」を整理しました。

書籍紹介はいつもと少し毛色の違う一冊をお届けします。  

それでは、お楽しみください。 

Xで、AIがコードを生成し、AIがコードを読む時代に、可読性へコストをかけるのはトークンの無駄ではないか、という趣旨のポストが物議を呼んでいました。

その反応を見ていると、「コードはAIが作成するため、人間は責任を持つだけでいい」という意見も多かった印象があります。

たしかに、AIが作ったものを最終的に社会や顧客に出すのは人間です。

その意味では、人間が責任を持つべきだという話はその通りです。

ただ、そもそも「責任を持つ」とは、何ができる状態なのでしょうか。

責任は、最後に謝ることではありません。

承認ボタンを押すことでもありません。

AIの出力を眺めて「まあ大丈夫そう」と言うことでもありません。

責任を持つとは、自分たちが何を作ろうとしたのか、なぜそれを作るのか、どう作ったのか、どんなリスクがあるのかを説明できる状態だと思います。

私は下記の状態が「責任を持てる状態」だと思っております。

• 何をするための変更なのかがわかっている
• 判断の根拠を説明できる
• 実際にこの承認を押すことによるリスクやメリット、変更点をAIなしで説明できる

前職で、このような発言が出たことを覚えております。

「AIが作ったので、ひとまず見ていただければと思うのですが……」

この状態だと、AIのせいにして責任を放棄している状態だと思っています。

AI時代の私たちができる責任は「気持ち」ではなく、AIの代わりに説明できる能力だと思っています。

ここを曖昧にすると危険です。

「人間が責任を持つから、AIに作らせればいい」が、いつの間にか「高性能なAIが出したものだから問題ない、安心安全である」に変わってしまいます。

開発組織でまずやるべきことは、「責任を取る人」を決めることだけではありません。

「責任を取れる状態」を作ることです。

たとえば、何のために作るのか。

誰にどんな影響を与えるのか。

要件はどこまで確かで、どこから仮説なのか。

暗黙知は何か。

なぜ暗黙知のまま残っているのか。

AIに任せてよい範囲はどこで、人間が判断する境界はどこなのか。

これらを言語化する必要があります。

そのうえで、設計、生成、レビュー、テスト、リリース、運用監視までをつなげる必要があります。

プロンプトも、判断理由も、変更履歴も、リスクへの対応も残す必要があります。

責任とは、成果物だけを見ることではありません。

成果物に至る判断の流れを見えるようにすることです。

整理すると、AI時代に責任を持つために必要なことは4つあります。

1. 目的を説明できること。

2. 設計と判断の根拠を残すこと。

3. リスクを見つけ、測り、対処し続けること。

4. 問題が起きたときに止めて直せること。

AIによって、作るコストは下がります。

でも、責任のコストは消えません。

むしろ、生成速度が上がるぶん、責任の設計は以前より重要になります。

AI時代の開発者や組織に求められるのは、AIの代わりに手を動かすことではありません。

AIが高速に動いても、目的、判断、リスク、結果を人間が引き受けられる構造を作ることです。

「責任を持つ」とは、AIの成果物に名前を貸すことではありません。

自分たちが作ったものについて、目的を説明できること。

判断の根拠を示せること。

リスクを理解し、必要なら止められること。

問題が起きたときに直せること。

AI時代に必要なのは、AIを使わないことではありません。 AIが作ったものを、人間が引き受けられる状態にすることです。

私たちも、「責任を持つ」という言葉を便利に使いすぎないようにしたいです。

執筆／大竹 桐矢

『ライト、ついてますか——問題発見の人間学』D.C.ゴース、G.M.ワインバーグ 著／木村泉 訳

問題を解決する前に、「その問題は本当に正しく定義されているのか？」を考える。そういう思考の練習のための本を紹介させてください。

この本は、読んだ直後よりも、仕事をしているときにふと「あ、この本の話だ」と思い出すタイプの本です。

問題は、見る人の視点によって見え方が違う。にもかかわらず、人は解決策から考えてしまう。そして問題は、解決したら終わりではなく、解決すると新しい問題が生まれる。

AI時代になって、「どうやって解決するか」という手段はあっという間に出せるようになりました。しかし、「何を問題として扱うのか」を定義するのは人間です。

これを考える力を育てるのに、この名著はあなたの役に立つでしょう。

執筆／岩永 梢絵

最後までお読みいただき、ありがとうございました。

本号は、AI時代の「責任」と「問題定義」という、手を動かす前の頭の使い方を2本立てでお届けしました。

明日AIに何かを任せる前に、「この承認をAIなしで説明できるか」「そもそもこれは誰の問題か」と一度だけ自問してみてください。それだけで成果物の質が変わるはずです。

皆さんは、AIに仕事を任せていて、責任の線引きに迷った場面はありませんか。

そうした体験談も含めて、メルマガで取り上げてほしいテーマがありましたら、ぜひご連絡ください。 

皆さんも今回のメルマガのご感想やご意見を #月トラメルマガ のハッシュタグをつけてXにてポストしてみてくださいね🐯