技術記事ぎじゅつの きじ

AIが書いた文章は見分けられる?判定ツールを自作して試した結果

AIが書いた文章は見分けられるのか。当社で日本語の判定ツールを作り、正解率と限界を測りました。自社のAI記事10本を判定にかけた結果もあわせて紹介し、判定ツールを使うときの注意点をまとめます。

公開こうかい

約7分で読めますやく 7ぷんで よめます

「この文章、AIが書いたのでは?」。そう感じる場面が増えました。では、AIが書いた文章は、道具で見分けられるのでしょうか。当社は2026年9月、日本語の文章を「AIが書いたか、人が書いたか」で判定するツールを社内で作りました。この記事では、その正解率と限界を、実際に測った数字で紹介します。あわせて、当社が公開しているAIの記事10本を判定にかけた結果も載せます。

先に要点を3つ挙げます。

  • 同じ種類の文章なら、かなり当たります。 正解率は94.6%でした。
  • 文章の種類が変わると、7割まで落ちます。 学んでいない種類の文章は苦手です。
  • 人が確かめたAIの記事は、ほとんど見抜けませんでした。 当社の記事10本のうち、AIと判定されたのは2本だけでした。

AI文章の判定ツールは、書き方の「くせ」を数えている

しくみを、たとえ話で説明します。電話の相手が誰かは、声だけでなく話し方のくせでも分かります。「えーと」が多い人や、語尾がいつも同じ人がいます。文章にも、書き手のくせが出ます。

AIの文章に多いくせは、たとえば次のような文の締め方です。

〜が重要です。
〜と言えるでしょう。
〜が求められます。

ほかにも「段落がどれも2〜3文でそろう」「文の長さが一定」といった特徴があります。反対に、人の文章には、AIがあまりしない乱れが出ます。同じ文章の中で「頂く」と「いただく」が混ざる。打ち間違いがある。急に長い文が出てくる。かっこで補足を足す。こうした点です。

当社の判定ツールは、こうしたくせを80項目の数字にして、AIらしさを0〜100%で出します。数字だけでなく、「どのくせが効いたか」も一緒に出すようにしました。理由が分からないと、結果を確かめようがないからです。なお、このツールは社内用で、いまは公開していません。

最初は、「AIがよく使う言い回し」の一覧と照らし合わせるだけの方法も試しました。こちらは正解率77.4%どまりでした。決まり文句を避けて書かれたAIの文章は、素通りしてしまうためです。

同じ種類なら94.6%、種類が変わると70.6%

判定ツールに学ばせた文章は、合計214件です。人が書いた文章が152件、AI(Claude)が書いた文章が62件です。人の文章は、公開されている研究者のコラムや国税庁の解説、ビジネスメールなどです。AIの文章は、人の文章と同じような話題と長さで書かせました。長さや話題がそろっていないと、ツールが「長いからAI」のように、別のところで見分けてしまうからです。

結果は次のとおりです。

試し方正解率
学んだ種類の文章で試す94.6%
論説・解説文を外して試す88.6%
メールを外して試す36.5%
種類を外して試した全体70.6%

1行目は、学ばせた種類の文章で試した数字です。学習に使っていない文章で50回試した平均です。それでも、20件に1件ほどは外れます。

2行目以降は、ある種類の文章を丸ごと学ばせずに、その種類で試した数字です。目立つのはメールです。短く丁寧なメールを一度も見ていないツールは、人が書いたメールの約8割をAIと判定しました。見たことのない書き方は、苦手なのです。

もう1つ、線の引き方も決めました。AIらしさが何%以上なら「AI」とするか、です。当社は57%にしました。人が書いた文章をAIと間違える割合を、10%以下に抑える線です。試したところ、この間違いは4.2%でした。AIの文章を見逃すことより、人を疑うことのほうが害が大きいと考えたからです。

当社のAI記事10本を判定にかけてみた

このサイトの技術記事は、この記事の前に10本あります。10本とも、下書きはAI(Claude)が書きました。人は、内容が正しいかの確認と、公開するかどうかの判断をしています。この10本を、2026年9月26日に判定ツールにかけました。

まず、本文をそのまま入れると、10本中7本が「判定できません」と返ってきました。箇条書きや表が多く、判定に使う普通の文がほとんど無い、という理由です。そこで、見出し・箇条書き・表・コードを除いた文だけで判定しました。

判定AIらしさ本数
AIの可能性が高い85%以上0本
AI寄り57〜85%2本
判断保留30〜57%6本
人の可能性が高い30%未満2本

10本ともAIが下書きした記事です。それでも、「AIの可能性が高い」は1本もありませんでした。57%の線を超えてAIと判定されたのも、2本だけです。判定ツールに学ばせたAIの文章も、Claudeで作ったものです。同じClaudeが書いた文章でも、見抜けなかったことになります。

いちばん高かったのは、vinextの構成を紹介した記事の84%です。理由のいちばん上は「アルファベットが多い」でした。技術の記事なので英語の名前が多いだけで、AIが書いたかどうかとは別の理由と考えられます。次が「段落がどれも2〜3文でそろっている」で、ほかに「表記ゆれが無い」なども挙がりました。

いちばん低かったのは、AIエージェント開発の費用相場の記事の9%です。「金額が具体的に多く書かれている」「突出して長い文がある」が、人らしさとして効いていました。

判定の結果は、入れる範囲でも変わりました。84%だったvinextの記事は、表やコードを含めた本文のまま入れると21%になりました。同じ記事が、「AI寄り」から「人の可能性が高い」に変わったのです。

AIの記事がなぜ人らしく見えたのか、はっきりした理由は分かりません。ただ、判定ツールを作ったときにも、同じような見逃しがありました。数字や固有名詞がたくさん入った、よく書けたAIのメモを、AIらしさ12%と判定したのです。具体的な数字が入り、人が確かめた文章は、見分けにくくなると考えています。

判定ツールを使うときの3つの注意

作って試した立場から、判定ツールを使うときに気をつけたいことを3つ挙げます。当社のツールに限らず、ほかの判定ツールにも当てはまると考えています。

1. 結果は「証拠」ではなく「目安」

100%と出ても、AIが書いたと決まるわけではありません。0%と出ても、人が書いたとは言い切れません。採用の選考や人事の評価、レポートの採点など、人の不利益につながる判断には使わないでください。当社も、そうした使い方はしないと決めています。

2. 得意な文章の種類を確かめる

判定ツールは、学んだ種類の文章でしか力を出せません。メールの例のとおり、見たことのない書き方では大きく外れます。使う前に、そのツールが何で学んだのかを確かめると安心です。

3. 中間の数字は「人の手が入った」しるしかもしれない

AIの下書きを人が直した文章は、判定が中間に集まります。当社の記事の多くが「判断保留」になったのも、これに当たると考えられます。中間の数字は失敗ではなく、実際にそういう文章だという表示として読むのが実態に近いです。

見分けるより、中身を確かめる

AIが書いたかどうかを、道具で白黒つけるのは難しい。これが、判定ツールを作って試した当社の結論です。

では、何を見ればよいのか。当社は、書いた手段より中身を確かめることにしています。事実は正しいか。読む人の役に立つか。誰が確かめたか。Googleも、AIで書いたかどうかではなく、内容の質を見るとしています。詳しくはAIが書いた記事とGoogleの評価についての記事にまとめました。

当社は、AIを業務に組み込む開発を受託しています。「社内の文書のチェックにAIを使いたい」といったご相談も、AI受託開発のページからどうぞ。

この記事の作り方

この記事も、下書きはAI(Claude)が書きました。数字は、当社の判定ツールの記録と、2026年9月26日に行った判定の結果から取っています。人は、内容の確認と公開の判断をしました。この記事の文だけを同じツールで判定すると、AIらしさは8%で、「人の可能性が高い」と出ました。いちばん効いた理由は「表記ゆれがある」でした。ただしこれは、本文で例として「頂く」と「いただく」を並べて書いたためです。判定ツールは、文章の意味までは読んでいません。

この記事の本文は、当社が開発・運用する文書管理サービスLibraryで管理しています。この きじの ぶんは、わたしたちが つくっている Library という ぶんしょの サービスで かんりしています。 Libraryの原文を開くLibraryの もとの ぶんを みる

相談そうだん

この記事のテーマで、開発を相談する。この きじの テーマで、かいはつを そうだんする。

記事で扱った構成や設計は、ソリューション事業部が実際の案件で使っているものです。同じ課題をお持ちでしたら、業務整理から一緒に進めます。きじに かいた つくりかたは、じっさいの しごとで つかっている ものです。おなじ こまりごとが あれば、いっしょに すすめます。

関連記事かんれんする きじ

同じテーマの記事。おなじ テーマの きじ。

技術記事一覧へ戻るきじの いちらんへ もどる