AIの時代です。人間の代わりに文章を書くのも、AIのミッションのうちのひとつです。

ChatGPTとは、様々な文章を生成できる最新のAIプログラムです。Webサイトやニュース記事、Redditの議論など、インターネット上の数十億もの言語ソースを消化した言語モデルで、今や人間が書いたような文章まで生成できるようになりました。

個人でも企業でも、すでにAIのテキスト・ジェネレーターを使って、テーマに沿ったエッセイやプレスリリース、さらには歌まで生み出しています。しかし、そこにはリスクもあります。

AIでコンテンツを生成するときの5つのリスク

誤った情報があるリスクや自社ブランドの意思や個性の喪失まで、AIを使ってコンテンツを生成することに関する危険性はたくさんあります。今回は、AIで文章を生成することに関する危険性の上位5つをご紹介しましょう。

1. 誤った情報

AIを使って文章を書くのは簡単です。プロンプトや設定、質問を書くだけで、AIがそれに論理的に続く文章を生成してくれます。

ChatGPTや他のAI文章ツールは、まことしやかな文章を書くことができますが、その内容は必ずしも正確とは限りません。AIは優秀ですが、それは偏見や誤情報の影響を受けやすいということでもあります。

例えば、開発者向けのオンラインコミュニティ「Stack Overflow」は、ChatGPTの答えは平均的に正答率が低すぎるという理由から、ChatGPTで生成した答えを共有したユーザーを一時的に出入り禁止にしています。

人の健康や経済状況に悪い影響を及ぼす可能性がある話題の場合、誤った情報を共有することは特に有害です。

2. クオリティの懸念と盗作になる可能性

AIベースのコンテンツ・ジェネレーターは、基本的にWebから情報を削ぎ落として集めるもので、与えられたデータから学習し、新しいアイデアやより良いコンテンツを生成することができます。

しかし、時折この目標を満たしていないことがあります。

AIの文章生成ツールは、自分で生成した文章の内容を実際には理解していません。基本的に、インターネットから情報を集めて、言い換えているだけです。

その結果、統計値の間違いや、脈絡や一貫性のない文章などの問題があるときがあります。

AIを使って文章を書く別の欠点は、意図せず盗作をしている可能性が高くなることです。ガーディアン紙は、ニューヨーク市の学校がChatGPTを禁止した理由のひとつとして、生徒がChatGPTで宿題を書き、それを自分の作品として偽る危険性があるからだと報じています。

3. コンテンツの価値を下げるアルゴリズム

AIで生成したコンテンツを発信しているWebサイトは、検索エンジンに順位を下げられる危険性があります。Googleによると、役に立たないコンテンツが多いサイトは、検索結果の順位が上がる可能性は低いそうです。

Googleは、人間による、人間のための、より独自性のある役立つコンテンツを、ユーザーが検索結果で目にするよう、常に努力していると表明しています。

先述のように、AIが書いた文章は一貫性がなく、整合性の取れない事実が含まれている可能性があり、役に立たないことがあります。

つまり、AIの生成したコンテンツに頼った結果、Googleの有益なコンテンツアップデートに引っかかった場合、検索エンジンから「有益でない、もしくは正確性に欠けるコンテンツ」と判断された可能性があるのです。

4. 独自のアイデアや創造性、個性の欠如

AIのツールは、文章を生成するのに既存のデータを使うので、既存のものに似たコンテンツが生まれやすいです。これは、独自のコンテンツを生み出すことで競合に差をつけたいと思っている人やブランドにとって、大きな問題となります。

クリエイティブなコンテンツは、魅力的で、共有されやすい傾向にあります。あなたのコンテンツが共有されればされるほど、より認知度が上がり、人との関係も構築することができます。

考えさせられるユニークなコンテンツには、個人的な経験や意見、分析などが含まれていることが多く、それは少なくとも今のところは、AIが苦手とする数少ない領域です。

5. 風評リスクや弱まるブランド発信力

風評リスクとは、個人や企業の地位や名声を傷つける恐れのある脅威や危険のことです。あなた自身やブランドがAIの書いた間違いだらけの投稿を発信し、それを読んだ人が不快な思いをした場合に起こる可能性があります。

人々はつながりたいと思っているので、人にとって親近感があるブランドのほうが、より魅力的だと思われる傾向があります。

ブランドの発信するメッセージで、人は笑ったり、泣いたり、励まされたりもします。AIの生成する文章の多くは、生成時に文章のトーンを設定することができますが、残念ながら結果には当たり外れがあります。

AIで生成された文章を見分ける5つの方法

自分が読んでいる文章が、人間の書いたものなのか、AIが書いたものなのか、知りたいですよね?

AIが書いた文章を見分けられると、そのコンテンツの信憑性を見極めることができます。AIが生成した文章を見分ける方法をいくつかご紹介しましょう。

1. 繰り返し使われる言葉やフレーズ

GPT-3は、理路整然としたまともな文章を生成できますが、AIの文章生成ツールは長文や高品質のコンテンツを書くのが苦手なことが多いです。

特定のテーマでは質の高い文章を書いていると主張するユーザーもいますが、AIの文章生成ツールは、同じ言葉を繰り返したり、無関係な文章を入れる傾向があります。

これは、AIツールが目標の文字数を達成するために、関連すると思われる文章を次々と追加しているからです。

ですから、記事を読んでいて、同じ言葉が繰り返し使われているような場合は、AIの文章生成ツールが書いたものかもしれません。AIの文章生成ツールは、(英語の場合)「the」、「it」、「is」などを繰り返し使うことが多い傾向にあります。

また、記事が特定のパターンや形式をなぞっている場合は、AIが生成した文章の可能性があります。このような書き方は、内容が予測可能で、退屈でつまらない文章になります。

2. 不自然な流れや間違い

AIツールは、文章の一部の文脈を正しく理解できないことがあります。その結果、人間の書いた文章のような整合性や、論理的な流れのない文章になる可能性があります。

AIの生成した文章は、文法や句読点の間違い、支離滅裂な構造のパラグラフなどで見分けられることもあります。

しかし、当然ながら、完璧な文法がAIの生成した文章だというサインになることもあります。文法というのは規則ベースなので、ロジックに従うことに関しては、人間よりもAIのほうが優れているからです。

3. 事実に重きを置いたドライな文章

AIの文章生成ツールは、深い解釈のない、事実や簡単な文章を素早く生成することができます。ですから、読んでいる記事が事実中心で、意見があまりないと気づいた場合、AIが書いている可能性が高いです。

4. 感情や個人的な体験がない

現在のAIの文章生成ツールの明らかな問題点は、人間の感情や主観的な体験を表現することができないところです。このような、世界の感じ方や見方は論理的に説明することができないため、教えることが困難なのです。

読んでいる記事が単調なトーンだったり、押し付けがましい感じがすると思った場合、AIが書いた可能性があります。

5. AIの生成したコンテンツを調べるツールを使う

AIの生成した文章かどうかを調べるのに、読みやすさや文章の長さ、反復される言葉など、文章の構成要素を調べるソフトを使う方法も一般的です。

AIのコンテンツを調べるツールとしては、「GPT-2 Output Detector」や「GLTR (Giant Language Model Test Room)」や「GPTZero」などが人気があります。

また、その文章が独自のものかを調べるのに、有料や無料の盗作チェッカーを使うのもいいでしょう。重複するコンテンツがある場合は、AIを使って書かれたものである可能性があります。

ただ、覚えておいて欲しいのは、AIのコンテンツを調べるツールも完璧ではないということです。新しい言語モデルや、短い文章では有効でないかもしれません。

AIの生成した文章のリスクと見分け方

ChatGPTのようなAIの文章生成ツールは、特定の内容では役に立つかもしれませんが、起こりうるリスクを検証し、慎重に使うことが重要です。

AIの生成した文章のリスクには、間違った情報がある可能性、盗作、Googleのペナルティ、風評リスクなどがあります。

AIの生成した文章を見分ける確実な方法はありませんが、同じ言葉を繰り返す、不自然な流れや間違い、感情や経験が乏しいなどの特徴で見分けられるよう注意しましょう。

Source: The Guardian

Original Article: The Dangers of AI Writing and How to Spot AI-Generated Text by MakeUseOf