タグ: AI

先日、AnthropicのClaudeに仕様変更があると話題になりました。
AIが書いたかわかるように見えない印をつけるとのこと。

この騒動で「Claudeを解約」とか「印を消すサービス」とか
色々な方向に発展してるので、今日はこの「見えない印」のお話をしていきます。

今回、Claudeでこの話は話題になりましたが
実はGoogleは2年前からやっています。

ではなぜ、Googleの時には話題にならなかったのに、今回のAnthropicの場合は話題になったのか。

AI ActというEUが作ったAIについての法律があります。
この法律で新たに定められたのが

2026年8月2日から、透明性義務が適用開始。
2026年12月2日から、8月2日より前にEEA市場に出ていた生成システム（音声・画像・動画・テキスト）も対象。

という決まりです。

今回のAnthropicの動きは、この決まりに対応するためです。
Googleはこの決まりが出来る前からやっています。
つまりOpen AIも、なんらかの同様の印をつける必要があります。

このAI Actの決まりが出来てからなので、今回のAnthropicは話題になっただけと
わたしは考えています。

それと、Googleがやったときは、印の検出は一般人には出来なかったのが大きかったと思います。
今回のは、誰でも検出できるツールも配布される予定というのがポイントかも知れません。

今回の決まりに、大きな声で反発をする人たちはいますが
わたしは、今のうちになんらかの手を打っておく必要はあると思っている側です。

今回の決まりが、スキのない、素晴らしい決まりだとは思っていません。

ディープフェイクなど、さまざまな危険が放置されている状態ではあるので、何か決まりは必要だと考えます。
調整は今後行なっていけば良いかなと。

わたしが不思議だったのは、AIが作ったものだとバレることを嫌がる人が結構多いな。というところです。
個人的には、AIができること、わざわざ人間がやってどうするの？という考えなので、不思議な部分ではあります。

どういう感覚なのか、いまいちピンと来ません。
今の時代に、手書きの履歴書とか持ってこられて
「うんうん、パソコンに頼らず偉いな。」みたいな評価なんですかね？

わたしは、その人材が入社しても、効率の良い仕事をしてくれるとは考えられませんし
いかに自分をよく見てもらうかだけに一生懸命な印象を受けます。
これは個人の感想です（笑）

わたしは、今回の印を見分ける機能の痛手を受けるのは
学生が結構多いのはと思っています。

課題も論文も、AIチェックで即アウト。
ん〜、これも答えは分かりませんが何か違和感を感じます。

学びだから、自分で考える力を育てる。
はい、そこは同意です。

わたしは昭和の学校しか知りませんが、学生時代はルールで周りと同じようになることを良しとして
社会に出たら、個性を追求される矛盾を強く感じていました。

社会に出たらAIをうまく活用して課題をクリアすることを望むのに
学生時代の課題にAIを使うのはアウトってことですよね。
なんかこの辺の雑な感じ、どうにかならなないもんかと思っています。

先日、OpenAIが学生向けに作ったサービスで、すぐに答えを教えずに
答えに一緒に導いていくサービスがでまして、正解かどうかは分かりませんが
試みとしては、良い方向だと思いました。

AIを使うと、考える能力が低下する。

よく言われていますよね。
どうなんでしょうかね、一律で言うのは個人的に雑かなと。

メールというサービスが始まった時に
あんなもの使ってると、文章能力が落ちるって言われてました。
落ちたのは、字は読めるけど書けないということと、単純に字が下手になった感じじゃなかったでしょうか？
失うものが違うんですよね。こういうミスリード、多い気がしてます。

子供達は、人類の未来だと本気で思っています。
ミスリードがなるべく少ない世界を望みます。

印の話に戻りますが、今は嫌がっている人がいます
しかし、本当にASIの時代になったら、つまりAIが人間を調節する時代が来たら。

「Made in AI」じゃないと信じられない世界が来るかも知れません。
人間のドクターとか怖いです。
最新のロボットでお願いします。
なんて世界もありえるかも知れません。

「あの時代、印を嫌がっていた人いたよね（笑）」
なんて会話が未来でされちるかも知れませんね。

Just be hopeful.

「今何時？」と聞かれたら「そうねだいたいね」と答える、めんどくさい昭和世代です。
ネットフリックスのドラマ「ガス人間」で、
ピタゴラスイッチから「いとしのエリー」へ流れるところにはググッと来ました。


ガス人間は、悪いことをした人間に責任を取らせるドラマです。
まあ実際のところは復讐なのですが、それが責任を取らせる、という言葉で受け取られている。
この響きが、しばらく頭に残っていました。


というわけで今日は、責任の話をします。


社長が辞任する。深く頭を下げる。あの角度と、あの秒数には、たぶん誰も明文化していない基準がある。
浅すぎれば反省が足りないと言われ、長すぎれば今度は演出くさいと言われる。
世の中には、練習しないと務まらない仕事がずいぶんある。


それで、頭を上げたあと、壊れたシステムは直っているだろうか。直っていない。
失われたお金も戻っていない。当たり前だ。辞任は復旧作業ではない。


にもかかわらず、私たちはそこで一区切りついた気になる。

ニュースは次の話題へ移り、翌朝には別の見出しが並んでいる。


そもそも「責任を取る」という言い方が、落ち着いて考えるとおかしい。取ったあと、それをどこへ持っていったのかを誰も聞かない。持ち帰ったのか、置いてきたのか。お土産のように誰かに渡したのか。
取った本人ですら、たぶん説明できない。


この妙な習慣を、私たちは長いあいだ疑わずに使ってきた。
そして今、疑わないままでは済まなくなりつつある。
会社のなかに、頭を下げられないものが働きはじめたからだ。


責任という言葉が大きすぎる
責任には、本来もっと細かい名前がついている。


決めたことをやりきる行動責任がある。
何がどうなったのかを筋道立てて話す説明責任がある。
法に照らして問われる法的責任があり、法には触れていないが人としてどうなのかを問われる道義的責任がある。
部下の不始末に及ぶ監督責任があり、仕組みや部署を預かる管理責任があり、意図がどうであれ出たもので問われる結果責任があり、会社が世の中に対して負う社会的責任がある。

これだけ名前が分かれているということは、本来それぞれ別のものだということだ。
ところが実際の会議で使われるのは、たいてい上位概念の方の「責任」である。
「責任の所在をはっきりさせましょう」という一言で、この全部がまとめて一つの箱に放り込まれる。
ちなみにこの発言が出た会議は、経験上あまりはっきりしないまま終わる。

箱に放り込むと何が起きるか。中身の性質が、確認されないまま混ざる。
なかでも紛らわしいのが、直す方の責任と、痛む方の責任だ。
この二つは、同じ箱に入っているのが不思議なくらい別物である。

直す方は、実務だ。原因を調べ、手を動かし、再発しないようにする。誰がやってもよく、むしろ上手い人がやった方がいい。説明責任や管理責任は、だいたいこちら側に寄っている。

痛む方は、実務ではない。頭を下げても不具合は直らないし、辞めても売上は戻らない。役に立っていないのに、省略すると許してもらえない。あれは修理ではなく儀式である。壊れたのはシステムだけではなく、まわりの人の信頼の方でもあるので、そちらを焚きつけ直すために誰かが痛む必要がある。道義的責任や結果責任が引き受けているのは、たいていこちらだ。

そして日本の会社は長らく、この二つを一人の人間に束ねてきた。責任者という肩書は、直す指揮も執り、いざとなれば痛む係も兼任する、という意味である。名刺には書いていないが、そういう契約になっている。

謝れない同僚
さて、ここにAIが入ってくる。
AIはよく働く。深夜でも文句を言わないし、頼めば何度でもやり直す。直す方の責任なら、かなりの部分を担える。
この点については、もう議論の余地が薄くなってきた。

問題は、痛む方である。
AIは頭を下げられない。正確に言うと、下げる動作はできる。申し訳ありませんと出力することくらい、朝飯前だ。ただ、そこに縮こまるものが何もない。失う面目もなければ、翌朝の気まずさもない。儀式は、受け手が痛むという前提で組まれているので、痛まないものを入れた瞬間、装置ごと空回りする。

つまり会社は、生まれて初めて、こういう同僚を迎えることになった。仕事はできる。謝れない。
これがどれくらい厄介かというと、たとえば社内でAIに何かを任せようとするときの、あの妙な足踏みを思い出してほしい。技術的にはできる。効果も出そうだ。それなのに、稟議のどこかで必ず止まる。止まる場所はだいたい決まっていて、それで、何かあったときは誰が、というあたりである。

このとき現場が困っているのは、AIの精度ではない。
責任という一語のなかで、直す方と痛む方がくっついたまま議論されているせいで、話が前に進まないのだ。

AIに任せるという提案は、直す方の話をしている。
会議室で不安になっている人は、痛む方の話をしている。

同じ単語を使っているので、噛み合っていないことに誰も気づけない。
導入が進まない会社は、たいてい技術で負けているのではなく、この分解をしていないだけだったりする。

痛む係という職業
会社がまず思いつく解決策は、たぶんこれである。
実務はAIにやらせて、隣に頭を下げる人間を置く。

そんな乱暴なことをするだろうかと思うかもしれないが、もう部分的に始まっている。
情報漏洩の会見で深く頭を下げている役員が、自社のシステムの中身を一行も理解していない、という光景をときどき見る。あの人は、事件が起きてから自社の構成をいちばん熱心に勉強することになる。順番が逆なのだが、儀式の担当としては別に間違っていない。
この配置は、短期的にはよく機能する。仕事は速いし、頭を下げる人もちゃんといる。書類の上では何も欠けていない。
ただ、長くはもたないと思う。儀式というのは、痛む人が事情を分かっていることを、うっすら前提にしているからだ。何が起きたのかよく分からないまま謝っている人を見ても、こちらの信頼は焚きつけ直らない。むしろ少し寒くなる。役に立たない儀式は、やがて誰も本気にしなくなる。

辞任しない社長
その先に、AI社長がいる。
私はこれが望ましいとは思っていない。ただ、順番として来るだろうとは思っている。
直す方の責任を担える範囲が広がり続ければ、束ねていたピンはいずれ抜ける。
望むかどうかと、来るかどうかは、別の話だ。

そして、そこで儀式が完全に空転する。AI社長が辞任する場面を想像してみてほしい。深く頭を下げる。辞める。翌日には同じものが別の会社で働いている。退職金も要らないし、気まずくもない。世間の溜飲は、たぶん１ミリも下がらない。

このとき私たちが失うのは、社長ではない。秩序を戻す手続きの方である。
壊れたものを直すことはできるのに、壊れた信頼を戻す方法だけが手元からなくなる。
厄介なのは前者ではなく、後者だ。

会社は、すでに一度これをやっている
ここで少し気が楽になる話をしたい。
会社という仕組みそのものが、もともと同じことをやった発明だからだ。

法人は生き物ではない。食事もしないし、眠りもしない。それなのに契約を結び、お金を払い、税を納め、そして信用を失う。誰も見たことがないものに人格を認めて、痛む役を肩代わりさせる。落ち着いて考えると、かなり無茶な発想である。最初に言い出した人は、相当変な顔をされたのではないかと思う。

けれども今では、誰もこれを疑わない。会社が信用を失う、という言い方に違和感を持つ人はいない。私たちは既に一度、痛む主体を虚構に預けることに成功している。

だから今回は、初めての作り直しではない。二度目だ。二度目には、少なくとも前例がある。

箱を開けるところから
とはいえ、最初にやることは壮大な制度設計ではないと思う。もっと地味な作業だ。
責任という箱を開けて、中身に名前を戻す。今この会議で話しているのは、直す方なのか、痛む方なのか。説明責任なのか、監督責任なのか、それとも誰かに痛んでほしいという気持ちなのか。それを分けて置くだけでいい。

これは今日からできる。AI導入の稟議が止まったとき、何かあったときは誰が、という問いを二つに割ってみてほしい。何かあったとき誰が直すのか。何かあったとき誰が引き受けるのか。この二つは、答える人も、必要な備えも、まるでちがう。割った瞬間に前へ進む話は、かなり多い。

人類は言葉を大きく使いすぎてきた。
大きい言葉は運ぶのが楽なので、そのまま何百年も運んできた。
中身を並べ直す時期に来たというだけの話で、それは失うことではなく、名前を取り戻すことだと思う。

箱を開ける、と何度か書いてきた。
パンドラの箱を思い出した人がいるかもしれない。
開けてはいけないものを開けてしまう話として、たいてい記憶されている。

ただ、あの話には続きがある。
箱から災いが全部飛び出していったあと、ひとつだけ中に残ったものがある。
希望である。

Just be hopeful.