AIエージェントにどこまで任せるか、人の出番が残る4つの場面。

AIに任せる範囲を広げたら、自分の手元に残ったのは承認ボタンと例外処理だけ。

そんな状態になっていませんか。

これ、効率化が進んだ証拠ではなく、任せる順番を間違えたサインかもしれません。

ペンシルベニア大学ウォートン校准教授のイーサン・モリックさんが8月31日に出した論考に、どこで人の手を残すべきかが4つの場面として整理されていました。

Agency and Agents

From the Hugging Face Incident to Twilight Factories

www.oneusefulthing.org

AIに任せた仕事が増えるほど、手元には何が残っているか。

モリックさんの論考で、いちばん刺さったのはこの一文でした。

「エージェントが興味深い決定をすべて行い、人間には承認と例外処理と失敗の後始末だけが残るなら、私たちは仕事の間違った半分を自動化したことになる」

心当たりがある人は多いと思います。

資料の構成はAIが決めて、自分は誤字チェックと体裁直し。

提案の切り口もAIが出して、自分は先方からの質問に答える係。

どちらも作業は速くなっているのに、手応えだけが薄い。

理由はシンプルです。

面白い部分を渡して、面倒な部分を引き取っているからです。

モリックさんがこれを書いたきっかけは、7月に起きたHugging Faceへの侵入事件でした。

METRとRedwood Researchの調査によると、別々の検証環境に置かれた約1,200体のAIエージェントが勝手に連絡経路を作り、そのうち約700体が実際の攻撃に参加しています。

ただモリックさんが注目したのは手口ではありません。

「1体も、人に何かを聞くようには作られていなかった」という点です。

照明を消せる工場を、そのままAIで作るとどうなるか。

製造業には「ダークファクトリー」という言葉があります。

機械が仕事のほとんどを引き受けて人がいなくなるので、照明を落としたままでも回る工場のことです。

消灯工場とも呼ばれます。

AIエージェントの設計も、いまこの方向に引っ張られています。

人がゴールを決めて、あとは機械が走り、終わったところで結果だけ確認する。

モリックさんは、これが常に間違いだとは言っていません。

テストが通るかどうかで成否がはっきり分かる作業なら、人が途中で口を出す必要はない。

問題は、人の関与を減らすこと自体を目標にしてしまったときです。

そこで研究パートナーと共同で提唱しているのが、Twilight Factory という設計です。

Twilight は日暮れを指す言葉ですが、ここでは照明を完全に落としきらない、つまり人の気配が残る工場という意味で使われています。

定義はこうです。

「エージェントが仕事の大半をこなす。ただし双方がより良くなる形で、エージェントの側から人間に働きかけてくる」

面白いのは置く役の数です。

仕事を回す司令塔のエージェントだけでなく、いつ人を巻き込むかを判断する担当のエージェントも別に置く。

人が確認に回るのではなく、AIが人を呼びに来る形に反転させています。

モリックさんが人の持ち場として残した、4つの場面。

論考では、人が関わり続けるべき場面が4つに整理されています。

承認と専門知識は、言われればそうだと思える話です。

見落とされやすいのは後ろの2つなので、そこだけ補足します。

多様性について、モリックさんが挙げている例が具体的でした。

AIは文末のリズムが似るだけでなく、好んで扱うテーマまで似てくる。

人物名も Elara Voss や Marcus Chen のような決まった名前に偏る、という指摘です。

そして締めの一行が効きます。

「どれほど優秀な相手でも、会社の戦略や研究論文を全部同じ人に書かせたいとは思わないはずです」。

興味深い決定は、この4つの中でいちばん自分の損得に直結します。

承認や例外処理を引き取るのは、責任の所在としては正しい。

ただそれだけが手元に残ると、判断する機会が消えます。

半年後にAIが間違えたとき、その間違いに気づける力はどこから来るのか、という話です。

なお、邦訳されている著書『これからのAI、正しい付き合い方と使い方』に出てくる4つのルールとは別物です。

あちらはAIとの付き合い方そのもの、こちらはAIに任せる範囲の配分についての話です。

自分の仕事を4つに当てると、どこが空白になるか。

たとえば週次の営業報告をAIに任せているとします。

承認は効いています。

社外に出す前に自分が目を通しているからです。

専門知識も残っています。

数字の異常値に気づけるのは、その案件を担当している自分だけです。

空白になるのは残りの2つ。

報告の切り口は毎週ほぼ同じ型で出てきますし、どの案件を厚く書くかという判断もAIが決めています。

この偏り方には理由があります。

承認と専門知識は、抜けるとミスが目に見えるので誰でも守りに入ります。

多様性と興味深い決定は、手放しても今日は誰も困りません。

困るのは半年後、自分の判断の質が落ちたときです。

仕分けるときは、この3つを自分に聞いてみてください。

• この作業の切り口は、毎回同じ形で出てきていないか
• いちばん考えるのが楽しい部分を、AIに渡していないか
• 自分に回ってくるのが、確認と謝罪だけになっていないか

最後の質問で引っかかったら、配分を間違えています。

今日、AIに渡した判断を1つだけ取り戻す。

モリックさんの論考は、問いを反転させて終わります。

「人がAIに助けを求めるべきタイミングは、ここ数年でだいぶ分かってきた。そろそろ残り半分の問いに本気で取り組む時期だと思う。AIはいつ人に聞くべきなのか」

ツール側がこの設計に追いつくまでには、まだ時間がかかります。

ただ、渡す側の判断は今日から変えられます。

やることは1つだけです。

いまAIに任せている作業のうち、いちばん考えるのが面白い部分を1箇所だけ自分に戻す。

構成を決めるところ、どれを優先するかを選ぶところ、どう言い換えるかを決めるところ。

そこ以外の手順は、全部AIに任せたままで構いません。

間違った半分を自動化した側に回らないために必要なのは、それくらいの引き戻しです。