위대한 과학 고전 ‘코스모스’(1980)에는 저자 칼 세이건이 ‘드레이크 방정식’을 설명하는 대목이 나온다. 이 방정식은 우리 은하에서 교신 가능한 문명의 수를 추산하는 수식인데, 몇 가지 변수가 등장한다. 예컨대 지능이 진화할 확률과 우주로 자신의 존재를 알릴 수 있는 통신 기술을 개발할 확률 등이다. 그중 가장 흥미로운 변수는 ‘문명의 수명’이다. 만일 어떤 문명이 엄청난 기술을 개발하자마자 자멸해 버렸다면(가령, 핵전쟁) 우리 은하에서 그 문명의 신호를 포착할 확률은 거의 없을 것이다. 세이건은 이 위험한 구간을 ‘기술적 사춘기’라 불렀다.

그로부터 반세기 가까이 흐른 2026년 현재, 글로벌 AI 기업 앤트로픽의 창업자 다리오 아모데이는 세이건의 이 우주적 바통을 이어받았다. 그는 ‘기술의 사춘기’라는 제목의 최근 에세이에서 세이건의 원작 영화 ‘콘택트’의 한 장면을 소환한다. 주인공인 천문학자가 받은 질문. “외계 문명과 마주한다면 맨 처음에 어떤 질문을 던지겠나?” 그녀는 답한다. “당신들은 어떻게 자멸하지 않고 그 사춘기를 넘길 수 있었냐”고. 지금 우리에게 이 사춘기는 AI가 가져올 상상 불가능한 권력을 인간 사회가 과연 감당해낼 수 있느냐는 절체절명의 순간이다.

사춘기가 위험한 이유는 감정을 담당하는 변연계는 요동치는데 이성을 조절할 전두엽은 미성숙하기 때문이다. 마찬가지로 인류 문명의 근육(기술)은 폭발적으로 자라지만, 이를 제어할 전두엽(제도와 윤리)의 성장은 지체되고 있다.

그런데 이 시기에 앤트로픽 창업자의 최근 행보가 큰 반향을 일으키고 있다. 아모데이는 최근 미 국방부의 무제한적 기술 이용 요구를 단호히 거절했다. 자율 살상 무기나 대규모 감시 시스템에 자신의 기술이 쓰이지 않아야 한다는 ‘윤리적 마지노선’을 명확히 긋느라 천문학적 수익을 날렸다. 국가와 기업의 힘겨루기가 결국 ‘감시 허용인가 금지인가’라는 단 한 줄의 문구로 응축된 셈이다.

그러나 올해 한국이 야심 차게 발표한 ‘AI 기본법’과 그 배후의 논리를 보면, 우리 사고 구조는 여전히 ‘국가주의’라는 협소한 회로에 갇혀 있는 듯하다. 법안 제4조 2항에는 “국방 또는 국가 안보 목적으로만 개발·이용되는 AI는 아예 적용 대상에서 제외”한다고 되어 있다. 회사의 대표마저 지키려 했던 그 마지노선을 우리 법은 ‘안보’라는 이름의 성역으로 너무나 쉽게 허물어버렸다. 기밀은 절차를 비공개로 할 이유이지 규칙을 ‘면제’할 이유가 아니다. 더구나 요즘 AI는 민·군 겸용이 기본값이어서 “오직 국가 안보 목적”이라는 경계 자체도 점점 허물어지는 추세다.

더욱이 법 제정 과정에서 강조된 ‘기술 주권’이나 ‘소버린 AI’라는 기획에 국가주의적 색채가 너무 짙다. AI는 국경을 초월해 인류 ‘전체’의 한계를 확장하는 보편적 기술이어야 한다. 그것을 ‘국가 경쟁력’의 도구로만 바라보는 순간, 안전은 뒷전으로 밀리고 예외 조항은 늘어난다. 규범은 남에게 요구하는 것이 되고, 예외는 우리에게 허락된 것이 된다. 국가주의는 이렇게 안전을 서서히 잠식한다.

이러한 국가주의적 예외 논리는 거대 플랫폼 기업들의 도덕적 해이로 연결된다. ‘기업 내부 업무용 AI’에 대한 투명성 의무 면제 조항은 플랫폼 권력의 오남용으로 이어지는 첫 단추가 되기 쉽다. 알고리즘을 조작해 시장의 공정성을 흔들고 AI를 앞세워 노동자를 초 단위로 감시하며 인격적 통제를 단행하는 행태들이 ‘영업 비밀’과 ‘내부 효율’이라는 명분 뒤로 숨어든다. 수천만 명의 개인 정보가 유출되는 사태 앞에서도 책임을 축소하기에 급급한 기업들의 모습은 기술 권력이 ‘자율’과 ‘주권’이라는 방패 뒤에 숨었을 때 어떤 사회적 비용을 초래하는지 여실히 증명한다.

진정한 ‘기술의 성인기’는 우리만의 주권을 외치는 목소리가 아니다. 인류 공동의 안전을 위해 예외 없는 규칙을 세우는 용기에서 시작된다. 세이건이 꿈꿨던 외계 문명의 신호는 결국 우리 스스로가 이 사춘기를 통과할 ‘보편 윤리’를 정립할 때 비로소 포착될 것이다. 그런 순간이야말로 ‘AI 3대 강국’이라는 구호가 자랑스러워질 때이다.