こんにちは、りんねです。
今回は「これからの未来を考える｜AI時代の安全対策」を書いていきたいと思います。
AIが安全か危険かの二極論ではなく、AIとどうやって付き合っていけばいいのかなどを、一次情報や、私得意のたとえ話などを交えながら、お話していきたいと思います。
今回も最後までお付き合いくださるとうれしいです。
AIは危険？安全？便利な道具だからこそ使い方を考える
柳刃包丁も、使う場所や目的によって意味が変わる
いきなりのたとえ話ですが、「柳刃包丁」は安全でしょうか？危険でしょうか？
お寿司屋さんなどが、お店の中で包丁を握っていても、何も思わないはずです。
ですが、その包丁をむき出しのまま外に持ち出したらどうでしょう？
怖いと思いませんか？
料理に使えば便利なものでも、使う場所が違えば意味も変わってくる、最たる例ではないでしょうか？
AIも「何ができるか」によって注意するポイントが変わる
AIも包丁と同じなのではないでしょうか？
「何ができるか」や「何をさせるか」で変わってくるのではないかと思っています。
使い方を間違えれば、AIも危険にはなりえると思います。
たとえば、私がAIに「この商品どう思う？」と聞くのと、「これ買っておいて」とお願いするのでは全然違いますよね？
聞くだけなら答えを聞いて「いや、それはいらんわ」で終わりです。
でも本当に購入までできるなら、お金が動いてしまいます。
同じAIでも、できることによって注意するポイントも変わってくるということです。
「AIだから危険」「AIだから安全」と一括りにはできない
先ほどたとえた包丁がそうですが、この世の中には、使い方を間違えれば人を傷つけてしまうものがたくさんあるのではないでしょうか？
それを、すべて危険だからと取り除いていたら生活が成立しない。
そんなこともあるのではないかと思います。
AIも「危険だから使わない」で終わらせるのではなく、何ができて、どこまで任せられるのかを知って使えばいいのではないでしょうか？
「教えて」と「やっておいて」では大きく違う
答えを返すAIと、実際に作業するAIは何が違う？
私が普段AIと話しているときは、分からないことを聞いたり、ブログについて相談したり、考えを整理してもらったりしています。
間違った答えが返ってきても「それ違くない？」で済みます。
ですが、最近では質問に答えるだけではなく、ウェブサイトを見たり、外部のサービスを使ったりしながら実際に作業するAIも出てきています。
こうしたAIは「AIエージェント」などと呼ばれています。
NIST（米国国立標準技術研究所）でも、AIエージェントは単純に文章を出すだけではなく、ツールを使って行動できるものとして扱われています。
そして「読むだけなのか、書き換えることもできるのか」「その操作は元に戻せるのか」なども、考えるポイントとして挙げられています。
そりゃそうですよね？
メールを読むのと、勝手に送るのでは全然違いますから。
気づけば時価の特上寿司？最後の確認を飛ばすとどうなる
ここで、またお寿司屋さんに登場してもらいましょうｗ
時価のネタもあるお寿司屋さんで、予算を伝えず「大将、お任せ！」と注文したとします。
そして出てきたのは、ウニや大トロが入った特上寿司！
おいしく食べた後のお会計で「1万円です」と言われても、大将からすれば「予算聞いてないし、お任せって言ったよね？」となりますよね。
待って大将。今日の予算は3,000円なんです…。
そうなる前に私たちができること。
最初に予算を伝えるか、握る前に「1万円を超えるけどいい？」と確認してもらえばいいのではないでしょうか？
AIも同じだと思うんです。
人間とAIの「いい感じ」が同じとは限りません。
だからこそ、「何をしてほしいのか、どこまでやっていいのか」を伝える。
そして実際に何かをする前には必ず「確認」する。
OpenAIでも、ChatGPTエージェントが購入など現実に影響する操作をする前には、ユーザーへ確認を求める仕組みを安全対策の一つにしています。
AIにどこまで任せる？できることが増えるほど考えたいこと
「見る」「変更する」「実行する」はそれぞれ違う
ここまでくると、答えは単純だと思います。
「見せてもいい」と「好きに変更していい」は同じではありません。
私はAIにメールを読ませてもいい。
でも、勝手に送信してほしくはない。
そんな使い方があってもいいわけです。
できる機能を全部使わなければいけないわけでもありません。
必要なところだけ任せればいい。
そしてもう一つ、「間違えたときに戻せるか？」も考えてみる。
メールの下書きなら消せますが、送信したメールや確定した購入はそうはいきません。
戻すのが難しいことほど、実行前に一度確認する。
まずはここからでもいいのではないでしょうか？
外から情報を読めるからこそ、新しく生まれる注意点もある
もう一つ、外部の情報を読めるAIだからこその問題もあります。
「プロンプトインジェクション」と呼ばれるものです。
AIが読んだウェブサイトやメールなどの中に別の指示が仕込まれていて、AIがそちらに誘導されてしまうようなものです。
NISTでも、メールやファイル、ウェブサイトなどに悪意のある指示を仕込んでAIエージェントに意図しない行動をさせる「Agent Hijacking」が検証されています。
OpenAIも同じ問題をAIエージェントの安全上の課題として挙げています。
要するに、AIが外を見に行けるようになったから、変なものまで拾ってこないようにする対策も必要になったということのようです。
便利なAIと安全に付き合うために私たちができること
AIの回答だけで決めず、大切な情報は元の資料まで確認する
これは私が普段からやっていることです。
AIに調べてもらっても、それだけで終わりにはしません。
大切なことなら一次情報まで見に行く。
私の記事でも、AIに調べてもらったものをそのまま書くのではなく、自分でも確認してから自分の言葉に戻すようにしています。
送信・削除・購入など、大切なところでは人間が確認する
AIを安全に使うための考え方はいろいろありますが、私たちが普段AIを使うときに、毎回難しいガイドラインを読みながら使うわけにもいきません。
だから私は、「ここまではAI。最後は私」くらいでもいいと思っています。
「送信する。」「削除する。」「購入する。」
そんな現実に影響するところでは、自分でも確認する。
AIを怖がって使わないのでもなく、便利だから全部丸投げするのでもない。
その間くらいが、ちょうどいいのではないでしょうか？
終わりに。
最後まで読んでいただいた「あなた」に。
私はこれからもAIを使っていくと思います。
一緒に考えてもらったり、調べてもらったり、時には「それ違うぞ！」とツッコミを入れたりｗ
AIができることは、これからもっと増えていくのかもしれません。
だったら私たちも、「何ができるのか」「どこまで任せるのか」を知りながら付き合っていけばいい。
『危険だから使わない。 』
『便利だから全部任せる。』
その二択じゃなくてもいいと思います。
便利なところは助けてもらって、最後に決めるところは自分で決める。
これからも、そんな距離感でAIと安全に、平和に共存していけたらいいなと思っています。
今回も最後までお付き合いくださいましてありがとうございました！
次回予告
次回は「食糧危機は、食べ物がなくなる前から始まっている｜耕作放棄地から考える日本の食」を書きたいと思っています。
私の祖母は、耕作放棄地を借りて畑をやっていました。
当時は気にしていなかった「なぜ安価で農地を借りられたんだろう？」という疑問から、日本の農業や食について考えてみたいと思います。
→食糧危機は、食べ物がなくなる前から始まっている｜耕作放棄地から考える日本の食はこちら（近日公開予定）
「他の記事も読んでみたい」と思っていただけたら、ぜひこちらもご覧ください
コメント