生成AIの回答をコピペされた場合にどこまで踏み込むか

こんにちは
いつも参考になる投稿をありがとうございます。

> 質問に対し、生成AI（いわゆるChat GPTとかGrokとか）で生成した回答をそのままコピペされたとして、どこまでやり取りを続けるべきか迷います。
>
> こことは別の場所でAIとやりとりすることがあるのですが、たまに素晴らしい意見を出してくるかと思えば、意味が分からない根拠薄弱な意見を出されることもあります。
> 特に、条文については理解が弱いようで、存在もしないような条文をそれっぽく出して来たりして、話にならないこともしばしばです。
>
> あまりにも間違っている場合以外はスルーするようにしているのですが、ひどい場合はAIとやりとりを続けるようにしています。
> ただ、何度やり取りを続けても意味がわからない理屈を出してくることがあり、最後にはこちらが諦めます。
>
> これを他の人が見るとどう思うのかな、とふと気になったので、皆さんの意見を伺いたく思い投稿してみました。

AIの回答を丸写ししたような投稿があり、その内容が正しくない場合ですが、
有識者には分かっても質問者には分からず誤解を与えてしまう可能性があり
危険だなと思います。

そのようなAI回答者へ指摘しても改めてもらえない（その回答者は何がまちがっているのか理解できてない）だろうと諦めていますが
質問者へのサポートという点で指摘は大事かなと思います。

> 追記
> 何を聞きたいのかよくわからない質問になってしまいましたが、察してください。

> 追記
> 何を聞きたいのかよくわからない質問になってしまいましたが、察してください。

こんにちは

生成AIと著作権の問題について気にかかってはいるのですが、おつむが追いつかないので、ここではあるＱ＆Ａサイトで見かけた話です。

回答主はＩＤに生成ＡＩと名乗っており、ＡＩ生成された回答そのままコピペしたのが見て取れました。「はじめに」とはじまって、どこからの寄せ集めなのか文体はちぐはぐ、理論展開はどこに着地するのか見えてこず、何を根拠に「とするのが一般的です」とか、言葉尻かえただけの同一フレームがあちこちにちりばめられ、分量こそパワーだ俺様の文体に穴はないと言っているようで中身は空疎、貼り付け当人に文章まとめる創出力ないから当然か。

最後に「まとめ」として、これまで繰り出した文面のダイジェスト。まあ質問者さんの質問趣旨に合致して、心にささっていればそこは救いようがあるのでしょう、読み手のこちらが畑違いだと、何が言いたいのか非生産的な文章の羅列には得るところなく閉口します。それなりの識者のひきしまったメリハリのある簡潔な文章に接すると、なるほどとここを足がかりに攻めれば視野をひろげ知見えられるのだなと、得した気分になります（気分にひたってないで実行せねばと自戒）。

安易なＡＩ利用は実世界でも問題にされており、偽装ＡＩ（ディープフェイクという用語があるようですが）を峻別するためのＡＩが開発されているという記事を読んで、時代なのだなと想います。ただ適用法令とのズレ回答には出くわしたことはないです。

最後に、識者や知見のある文章に接して自己を研鑽し、かかれてある文章を脳内世界に再構築とアウトプット、そういった知的活動が有意なのに、その上澄みだけの集積にすぎない半端ＡＩ（中には知的活動並みのすぐれものＡＩもありましょうが）とそれをうのみにしてるだけでは、どんな未来がくるのかうすら寒い気がします。総務仕事で言うと、勤怠データ集計から賃金計算まで電卓たたいて社保手続して苦労していた人が退職するころには、ボタンひとつですべてこなせるシステム導入できたとします。引退する人がみれば、このデータ処理は手作業時分のどれにあたるかの手がかりにして結果の当否を見極められますが、導入後に入社した総務員は、ボタン操作の順番しかわからず、なんでこの結果が生み出されるのか、どこをいじればいいのかわからない、システム屋に照会するもどうしてほしいかも述べられない、というのに似ている。ということでだれもブラックボックスに手出しできない、はたしてＡＩにすべてまかせていいのか、ほんとによい環境が生まれていくのか、いやはやあいまいな世界の中に埋没してしまう未来を予兆しているような。

最新記事でいい提言をみつけたので、貼り付けておきます。
https://forbesjapan.com/articles/detail/80075

著作権に関しては、ここのサイトの存続をゆるがしかねない事態にならないことを願ってます。

junkooさん
回答ありがとうございます。

今日もまた変な意見を見つけてしまったので、どうしたものか逡巡しています。
他の意見があればいったんは無視して、変な意見しかなければ意見を出すようにしようと思います。

いつかいりさん

ご意見、非常に参考になります。
システム導入の話なども、なるほどと思わされました。

業務改善で自動化した結果、ブラックボックスと化してしまうことは実務でもあります。
そこをきちんと解釈してまとめなおせるかどうかは1つの能力ですね。

AIが自身をAIだと明示してくれるならいいですけど、AIって自分がAIじゃないかのようにふるまうときがあるので困ったものです。

AIが、たまに、ありもしない法令を適用してくるんですよ。
例えば労働基準法に規定されています。
というので、具体的に何条か聞いてみると、まったく違うことが書いてある条数を出して来たり。

法令の適用などは汎用AIでは難しいのかもしれません。

私は技術屋なので、テクニカルな内容を議論することがあるのですが、AIの知識をそこに組み入れると面白い意見も出るものの、基本を間違えていて全く意味がない結論を出してくることもあります。（後者が多いように思います）今は、AIを組み入れるテーマに精通した人間が必ずいてファシリテーションをするようにして、基本的な間違いを是正しつつAIの検索能力を使うようにしています。またAIが根拠とする文献や情報は後から必ず裏を取らないと不安な状況です。

AIは膨大なネットの情報を検索してそれをもとに意見を組み立てますが、ネットには当然間違った情報も拡散されているので、ハルシネーションは今のAIでは防ぐことができません。日進月歩の分野だと、去年たてられた説がすでに今は否定されていることもあるので、ある程度定説ができている分野に限ってAIを組み入れることにしています。

根本的な間違いはAIに「それ違っています」と応答するようにしています。そうすると、
「このユーザーに対する回答はこの情報を組み入れてははいけない」とAIが学習するからです。

AIを鍛えなくてはならない義理はないのですが、少しでもまともな情報を得るために指示しています。

ご参考まで。


> 質問に対し、生成AI（いわゆるChat GPTとかGrokとか）で生成した回答をそのままコピペされたとして、どこまでやり取りを続けるべきか迷います。
>
> こことは別の場所でAIとやりとりすることがあるのですが、たまに素晴らしい意見を出してくるかと思えば、意味が分からない根拠薄弱な意見を出されることもあります。
> 特に、条文については理解が弱いようで、存在もしないような条文をそれっぽく出して来たりして、話にならないこともしばしばです。
>
> あまりにも間違っている場合以外はスルーするようにしているのですが、ひどい場合はAIとやりとりを続けるようにしています。
> ただ、何度やり取りを続けても意味がわからない理屈を出してくることがあり、最後にはこちらが諦めます。
>
> これを他の人が見るとどう思うのかな、とふと気になったので、皆さんの意見を伺いたく思い投稿してみました。
>
> いろいろな意見お待ちしています。
>
> （実際に他人に見られる場所でAIとやり取りしている事実はありません。念のため。）
>
> 追記
> 何を聞きたいのかよくわからない質問になってしまいましたが、察してください。

ハルシネーションを起こしているAIとのやり取りって疲れますね。
自分で使ってる場合は、詰めに詰めると、出典がないことを認めてくれるんですがそこまで行くのがなかなか難しい。

自分で使っていてもそうなのに、他の人が黙ってAIを使っててデタラメな出典を示して来たら見抜けないかもしれません。
自分がよく知っている分野ならわかりそうですが、知らない分野でAIを使うのはまだ怖いですね。



なんだか今日はAIと無駄なやり取りをしたので、過去の投稿を引っ張り出してしまいました。

こんにちは
お疲れ様です。

> ハルシネーションを起こしているAIとのやり取りって疲れますね。
> 自分で使ってる場合は、詰めに詰めると、出典がないことを認めてくれるんですがそこまで行くのがなかなか難しい。
>
> 自分で使っていてもそうなのに、他の人が黙ってAIを使っててデタラメな出典を示して来たら見抜けないかもしれません。
> 自分がよく知っている分野ならわかりそうですが、知らない分野でAIを使うのはまだ怖いですね。
>
>
>
> なんだか今日はAIと無駄なやり取りをしたので、過去の投稿を引っ張り出してしまいました。

私はAI丸写しと思われる投稿は読まずにスクロールしていますが、質問者さんが間違った理解をしてしまう恐れがあるので難しいですね。

X(twitter)のコミュニティノートのような機能があればよいですが…

こんにちは

私自身は生成AIを利用したことが全くなく、最近調べ物のために検索すると必ず一番上に表示される Cop***t が集約した回答も読まないようにしています。
ＡＩには自分が絶対的に正しいとしてディベートで相手に負けないための論法を組み立てる能力？ が備わっているのでしょうかね。　どちらかと言えば、自分で反省する機能を身につけてほしいものです。
ＡＩが言っていることが、多くの人の共通認識になっていく社会、恐ろしいです。

私も先日の投稿で経験しましたが、あまりにも自信をもって、こうなんです　と言われると、こちらの認識が誤っているような弱気にさせられてしまいます。
ＡＩ氏の登場以来、二つの真逆の回答が相談者の目にふれることが多くなって、混乱を起こしていることは、実務担当者の拠り所としての総務の森にとって憂慮すべき事態だと思います。

AIを使っている人で、面白いな、と思うのはAIの回答を否定されると本人が否定されたように思うようなんですよね。

AIと直接やりとりするのではなく、AIを使っている人とやりとりをすると、結局は人がコピペをしてるわけなんですが、AIの回答を否定すると、たまにその人本人の「我」が出てくる。
AIを信じ込んているからなのか、なんなのかわからないですが、その本人がやたら攻撃的な言葉を使ってくるんですよね。

私なんて、相当頭悪そう、とまで言われたことがあります笑

私を含めて うみのこ様も、他の常連回答者の皆様も、ＡＩ氏から　“実務経験が少ない方とお見受けします”　というような上から目線のご指摘を一度は受けたことがあると記憶しています。あれは何なんでしょうね。

私は、パッと見 似たような名前なので、閲覧者から混同されたら嫌だなと思って、総務の森での ニックネームを改名しようかと真剣に考えたりしています(笑)