SNSを開けば、一瞬で“誰かの言葉”が広まり、数秒の動画が世論を揺さぶる時代です。その裏では、AIが生成した偽物の画像や動画――いわゆるディープフェイクが、人の名誉や選挙、人間関係を容易に壊してしまう危険性が指摘されています。
　真実と嘘の境界がかつてないほど曖昧になった今、「何を信じればいいのか」「どう守ればいいのか」という問いに、多くの若者が直面しています。
　そんな“情報が揺らぐ時代”のただ中で、ひとつの出来事が高校生だった大山　昇（仮名）さんの世界を大きく変えました。

　アメリカ留学中、テイラー・スウィフトがトランプ大統領を支持したという“動画”を見て帰宅した大山さんがホストファミリーに話すと、返ってきたのは一言の指摘でした。

「それ、フェイクだよ。」

　この瞬間を、大山さんは次のように振り返ります。
「『え、これ嘘なの？』って。本当に世界が音を立てて崩れるような感覚でした。画像も映像も、こんなに簡単にねじ曲げられるんだって。」

　その体験が、後の探究すべての出発点になりました。本記事では、ディープフェイク問題に正面から向き合い、慶應義塾大学法学部に進学した大山さんの探究の軌跡を追いながら、若者の「問い」がどのように育ち、未来へつながっていくのかを描きます。

なぜ慶應の法学部でなければならなかったのか

　フェイクニュースに騙された経験を境に、「情報をどう守るか」が大山さんの大きなテーマになっていきました。そのなかで強く惹かれたのが慶應義塾大学です。

　慶應には、AIの法律やAI倫理について研究している教授が複数います。AI法整備を政府と共同で進めている山本教授、AI倫理を専門とする大屋教授など、AIと法の交差点を研究する第一人者が揃っていることに、大山さんは強い魅力を感じました。さらに、AIとプログラミングを学べる学生団体「AIC」の存在も、技術的な側面からAIにアプローチできる場として心に刺さったと言う。

　「社会的・法的な側面だけでは、ディープフェイクの本質にはたどり着けないと思ったんです。技術を理解しないと、“どこが危ういのか”すらわからない。慶應なら、その両面からアプローチできると感じました。」

　彼にとって慶應は、「AI法を本気で学べる環境」だと確信できる場所でした。

フェイクニュースに興味を持った決定的な体験

　大山さんが留学を決めた背景には、「高校という時期は今しかない」という考えがありました。幼稚園の頃にインターナショナルスクールに通っていた経験もあり、多文化環境に抵抗がなかったことも後押しになりました。両親自身も韓国で生まれ育ち、日本に留学した経験があり、「留学ってめちゃいい」という体験を子どもにも味わってほしいという思いがあったという。

　実際にアメリカへ渡ったのは、高校2年生のときでした。ちょうど大統領選挙の時期で、SNS上には候補者に関する膨大な情報が飛び交い、ディープフェイク動画も出回っていました。アメリカの高校では法教育の授業があり、大統領選挙の候補について討論する場面もありました。そこでクラスメイトの一人が、「こういう有名人も支持しているよ」と、テイラー・スウィフトがトランプ大統領を支持しているかのような動画を根拠に議論を展開していったのです。

　当時の大山さんは、それがフェイクだとは知りませんでした。家に帰ってから、「テイラースウィフトが支持しているらしい」とホストファミリーに話したときも、「有名人が言っているから支持するって、おかしい気がする」という違和感を相談したに過ぎなかった。

　そこで返ってきたのが、「それフェイクだよ」という一言と、その根拠となる記事でした。自分もある意味で騙されていたことを知り、大山さんは強い衝撃を受けます。

「信じていたものが一瞬でひっくり返る感じでした。証拠だと思っていた映像が、裏を取ったら存在すらしていなかったんです。」

　この経験が、彼を本格的な調査へと突き動かしました。


自分で動き、調べ、専門家に取材した日々

―― 怖くても1か月かけて押した“送信ボタン”

　フェイク動画の存在を知ったあと、大山さんはAIとディープフェイクについて自分なりに調べ始めました。最初に使ってみたのは、なじみのなかったAIツールであるChatGPT。アメリカの高校でのテスト勉強を手伝ってもらうかたちで、「アメリカ史の出来事について教えてほしい」と問いかけたという。歴史分野で主に活用してみた結果、「説明は大まかには合っているけれど、年号がめちゃくちゃなこともあり、数字には弱いと感じた」と振り返ります。

　そこから、どれだけ被害が起きているのかを調べるため、ポルノや政治など、悪用の幅や件数についてネット検索や論文から情報を集めていきました。Google Scholarも活用しましたが、「半分くらい何を言っているのかわからなかった」と語るように、最初は専門用語だらけで苦戦したそう。それでも、論文を読むことに慣れ、サイト内検索で絞り込みをしながら読むうちに、次第に調査はしやすくなっていきました。

　調査を進めるなかで、大山さんは実務の現場の声を聞く必要性を感じ、日本やアメリカの弁護士に取材を申し込みます。AIの功罪を学ぶセミナーにも参加しつつ、削除請求や開示請求、ネット訴訟に詳しい弁護士数名にあたりをつけ、アポイントをお願いしました。1回目は九州の弁護士、2回目はカリフォルニアの弁護士に話を聞くことができたそう。

「怖すぎて、最初は1か月間も送信ボタンが押せなかったです。『こんなレベルの質問しかできないの？』って思われるのが本当に怖くて。」

　それでも塾の先生や両親に文面を見てもらい、何度も添削を受けながら、ようやくメールを送信しました。何十件も送った結果、返信が返ってきたのは体感で10〜20％ほど。忙しいと断られたり、スルーされたりすることも少なくありませんでしたが、アポイントが取れた弁護士とは、いただいた時間を1分も無駄にしないつもりで、必死に質問を考えたといいます。

「押してみたら意外と返ってくるんですよね。一気に世界が広がりました。」

　なかには事前に質問を送ってほしいという弁護士もおり、大まかな質問を伝えると、わざわざ資料まで用意してくれたこともありました。ネット記事だけを読んでいると「開示請求が減って改善している」といった印象を持ちますが、「実際にはそんな単純な話ではない」と教えてもらったことも大きかったそうです。英語で調べていたがゆえに誤解していた部分を正してもらえたことも、貴重な学びになりました。


ディープフェイクの「光」と「影」に向き合い続けた高校時代

　大山さんは、ディープフェイクについて調べるなかで、悪用だけでなく良い使われ方もあることを知りました。たとえば、スタントの顔を俳優に変える映像制作の現場や、医療現場で画像データが足りないときに、似たようなデータを生成して補う場面などです。こうした場合には、本人の「同意」が必ず前提にあります。

　一方で、同意のないディープフェイクは、防ぎようがないほど危険だと感じています。画像が一枚あれば生成できてしまい、そもそもネットに自分の情報を上げていなくても、隠し撮りなどで簡単に突破されてしまう可能性があるからです。

　政治家の発言の切り抜きであれば、本人が発言に気を付けることである程度は予防できるかもしれません。しかし、ディープフェイクポルノのように、勝手に画像を使われるケースでは、被害者側の自己予防だけではどうにもならない場面が多いといいます。韓国や日本でも、卒業アルバムの女子生徒の顔を使ったフェイク動画が作られる被害が実際に起きており、「これはまずい」と強い危機感を抱いています。

「人の名誉や尊厳を、画像一枚で簡単に傷つけられてしまうのが、一番の問題だと思います。」


これからはAI法整備に弁護士として関わりたい

　将来について、大山さんは「AIの法整備、特にディープフェイクの規制を模索したい」と話します。その際、教授や官僚ではなく、あくまで弁護士として関わりたいと考えているのには理由があります。

「実務に携わっている人だからこそわかることや、気付けることがあるはずなんです。実際にどういうことが起きているのか、理論畑の人とは全く異なる目線から話題に切り込んでいくことが重要だと思っています。」

　もともと弁護士という職業には興味があり、幼稚園の頃に通っていたインターナショナルスクールの園長が国際弁護士として活躍していたことが、その原点になっています。その姿への憧れから、「いつか弁護士になりたい」と思うようになったといいます。

　プログラミングについても、小学校の頃に3年間ほど触れていたものの、当時は一つのことに打ち込むのが少し苦手で、上達の壁を感じると撤退してしまうところがあったと振り返ります。AIも、悪い例から知るまではそこまで詳しくありませんでしたが、今後は「どう活用していくか」も含めて学んでいきたいと考えています。

　中学3年生の後半には文房具との出会いをきっかけに、「ペンを使う口実として勉強するようになった」と話す大山さん。上達の壁にぶつかることそのものが嫌だった自分が、ディープフェイクというテーマを通じて、壁を越えるための努力に向き合うようになっていきました。


後輩に伝えたいこと

　最後に、これから探究を始める高校生へのメッセージを聞きました。

「頭でっかちにならないことが大事だと思います。自分も最初は、弁護士に取材メールを送るのがめちゃくちゃ怖かったです。『こんなレベルの質問しかできないの？』って思われるのが怖くて、1か月くらい送れませんでした。でも、送ってみたら意外と返ってくる。」

　アメリカでは高校生で有給インターンをする人も多く、医者になりたい友達が医療機関にインターンを申し込む話を聞いて、「アメリカの高校生って、割とフランクに申し込むんだな」と驚いたといいます。自分とは別世界の「すごい人たち」だと思っていた存在が、実は「行動しているからこそチャンスをつかんでいる人たち」なのだと気づきました。

「勝手にビビって閉じこもらないでほしいです。考えるだけで終わらせず、とりあえず一歩動いてみる。最初の1回は本当に怖いけど、2回目からはそんなに怖くなくなります。」

　フェイクに騙されたあの日から、大山さんはずっと情報の真偽と向き合い続けてきました。“信頼”が揺らぐ時代を生きる高校生にとって、その姿は確かな指針になるはずです。