生成型AIを通じて合成した画像で不穏な写真や映像を生成し、これを複数のソーシャルメディアに配布するディープフェイクで国中が騒がしい。最近、すべての新聞や放送にあふれている。韓国人であれば年齢や性別を問わず、ディープフェイクが何かを誰もが知っており、誰もが被害を受ける可能性があるという恐怖が津波のように押し寄せている。ポルノサイトは1年で4倍以上増加し、10件中9件はディープフェイクが投稿されたという。したがって、不穏なサイトにはディープフェイクが溢れ、その恐怖感が世界市民を震えさせることと思っていたが、アメリカのあるサイバーセキュリティ会社の調査結果によると、これらの行為の半分以上が韓国人であることが明らかになった。さらに深く掘り下げると、その行為の70％以上の行為者が10代であると発表された。実に驚くべき事実である。

結果的に、身近な知人はその懸念から自身のソーシャルメディアで写真を削除し、国の法律を作る場所では緊急会議を開いて迅速に規制を強化する法律を作ると言っている。法律を執行する場では専任チームを作って対応するというニュースも聞こえ、被害を受けた芸能事務所からは自らのメンバーが被害に遭ったと訴訟と告発が行われている。また、男性が加害者で女性だけが被害者なのかなど、思いもよらないジェンダー問題についても団体間での対立が表面化している。一言で言えば大騒ぎである。しかし、実際には以前にもN番部屋だの博士室だのといったものも同様で、一時は盗撮恐怖で我々の社会が震え上がった。数多くの部屋を作り、数万点の性的搾取物や盗撮映像で少なくない個人の生活を地獄に落とし、類似犯罪や配布、単純な好奇心を抱いた者たちまで、数多くの加害者と覗き見の患者を生み出していた。このこともまた実にあり得ない事実である。

過去にインターネットが初めて世界に登場したときも、インターネットが生活に浸透する以前や企業がそれを通じてお金を稼げなかった時代、商業的に最初に試みられ、金を生み出したアイテムはまさしくポルノだった。現在の現象は技術の進展の初期に現れる最も大きな副作用が例外なく機能しているように見える。それが生成型AIの最も大きな副作用である。ある意味、目覚ましい発展に見えるが、生成型AIは現在ようやく2年目となった。マイクロソフトとグーグルの終わらない競争、そして数多くのテック企業の参加、加えて数えきれない企業から生み出される応用事例などによって、経済や社会、文化や教育で使用されている。

しかし、依然として数百億ドルに達するテック企業の攻撃的な投資に比べて収益性は証明されておらず、企業のAIサービスの需要は低い水準であると言われている。ここに信用評価会社ムーディーズの最近の報告書には『AI投資においてビッグテックはリスクを回避しにくい』という言及もあるのを見ると、音は騒がしいが依然としてAIの収益化という実体には困難が伴っていることは間違いなく、その打開策を見つけるためにテック企業は命をかけている。

このような事件に対する我々の対応は、アクセス遮断技術を開発し、義務化し、法律を作り、処罰を強化し、社会的に健全なAI応用文化を構築しようと努めている。それも、世界で最も早く強力に青少年を保護し、我々の社会を健康にしようとする切実な意志が短いが力強く見える。これが成功すれば、すでにインターネット時代やモバイル時代にも検証されたように、我々はAIの生活化を達成できる。したがって、今回のAIディープフェイク事件はもう少し深刻に見る必要があり、我々の今の努力が必ず成功しなければならないという思いを忘れることはできない。

なぜなら、未来を支配するAIの生活化は個人に安全と便利さを提供し、企業には世界技術の先導の機会と収益化をもたらし、国家的には知能国家を作るのに大きく寄与できるからである。したがって、今回のAIディープフェイク事件が我々に与えるメッセージは『成功的な対処を通じた飛躍の機会』である。(チェ・ジェホン ガチョン大学スタートアップカレッジ教授)