로봇에겐 99.9%, 챗봇에겐 86%

이번 주 AI 뉴스를 쭉 읽다가 묘한 공통점을 발견했어요. 따로 보면 로봇, 모델, 보안, 교육 정책으로 다 다른 얘기인데, 한 줄로 모으니까 전부 같은 질문을 하고 있더라고요. "기계를 어디까지 믿을 거야?"

한쪽에선 로봇이 공장에 들어가려고 99.9%의 신뢰도를 증명하는 중이고, 다른 쪽에선 역대 가장 똑똑하다는 챗봇이 86%의 확률로 자신 있게 틀린 답을 내놓고 있어요. 누군가는 그 "믿음"을 무기 삼아 사기를 for 루프에 넣어 돌리고, 또 어떤 나라는 아예 아이들 교실에서 AI를 꺼버렸죠.

같은 주에, 신뢰에 관한 네 개의 장면이 도착했어요.

공장에 들어가려면 99.9%를 증명해야 하는 로봇

현대차그룹이 보스턴다이내믹스를 완전히 손에 넣어요. 소프트뱅크가 들고 있던 마지막 9.65% 지분을 3억 2500만 달러에 사들이면서, 6월 22일 이사회 승인을 거치면 100% 자회사가 됩니다. 2021년 현대가 지분을 살 때 맺은 풋옵션(정해진 기간 안에 상장이 안 되면 소프트뱅크가 되팔 수 있는 권리)이 결국 이렇게 정리된 거예요.

숫자를 잠깐 볼게요. 2021년 현대가 80% 지분을 약 8억 8000만 달러에 살 때 보스턴다이내믹스 기업가치는 11억 달러쯤이었어요. 이번엔 9.65%에 3억 2500만 달러니까, 환산하면 기업가치가 34억 달러 안팎 — 5년 만에 3배가 됐어요. 로봇이 유튜브 스타에서 "사업"으로 넘어가는 중이라는 뜻이죠.

소유권 족보가 좀 재밌어요. 구글이 2013년에 사들였다가, 2017년 소프트뱅크로, 2021년 현대로. 그 세월 동안 보스턴다이내믹스의 로봇들은 "너무 멋져서 사업은 안 될 것 같은" 영상으로만 유명했거든요.

근데 이제 진짜 공장으로 들어가요. CES 2026에서 공개된 전기 휴머노이드 Atlas가 2028년까지 조지아주 사바나 인근 현대 EV 공장에서 부품 시퀀싱(라인에 필요한 부품을 순서대로 집어 나르는 일) 작업을 시작할 예정이에요.

여기서 제 눈에 박힌 한 문장. 보스턴다이내믹스 CEO Robert Playter가 그랬대요. Atlas가 공장 바닥에서 진짜 쓸모 있으려면 새 작업을 하루이틀 만에 배우고 99.9% 신뢰도에 도달해야 한다고요. 부품 하나 잘못 집으면 라인 전체가 멈추니까, 물리 세계에서 기계를 믿으려면 그 정도는 돼야 한다는 거예요.

현대의 진짜 무기는 따로 있어요. 첫 고객을 상상할 필요가 없다는 거. 공장도, 차량 프로그램도, 이제 로봇 회사까지 다 자기 거예요. 부품 회사인 현대모비스가 Atlas의 액추에이터까지 만들고요. Tesla의 Optimus, Figure AI, Unitree가 다 휴머노이드로 달려들고 있지만, "검증된 첫 일자리"를 자기 안에 가진 회사는 흔치 않아요. 국내에선 이번 인수를 "피지컬 AI 완전 독립"으로 읽으면서 그룹 지배구조 개편 신호로도 보더라고요.

반대로 소프트뱅크 손정의는 더 큰 판으로 갔어요. 3억 2500만 달러 회수하고, 1000억 달러 규모를 노리는 Roze AI라는 데이터센터·로봇 인프라 쪽으로요. 한쪽은 공장 바닥의 로봇을, 한쪽은 그 위에 깔리는 AI 인프라 층을 택한 셈이에요.

86%를 틀려도 1등인 챗봇

물리 로봇에겐 99.9%를 요구하는 같은 시대에, 언어 모델 쪽 숫자는 좀 충격적이에요.

Artificial Analysis의 AA-Omniscience라는 벤치마크가 있어요. 6000개의 전문가급 질문(비즈니스, 법, 보건, 인문, 과학·공학, 소프트웨어)을 던지고, 맞히면 점수를 주고 틀리면(=환각) 감점하고, "모른다"고 거부하면 감점이 없어요. 사람으로 치면 "찍지 말고, 모르면 모른다고 해"라는 시험인 거죠.

여기서 GPT-5.5가 환각률 86%를 찍었어요. 동시에 정확도는 57%로 이 벤치마크 사상 최고치고요. 무슨 뜻이냐면 — GPT-5.5는 진짜 많이 알아요. 근데 모르는 걸 만났을 때 "모른다"고 안 하고 거의 항상 찍어요. 그리고 그 찍은 답이 틀려요.

비교 대상이 흥미로워요. 환각률이 28%대로 GPT-5.5의 3분의 1 수준인 오픈웨이트 모델 GLM-5.2. 저는 처음에 이게 미국 MIT가 만든 오픈소스인 줄 알았는데, 알고 보니 MIT 대학이 아니라 MIT 라이선스였어요. 만든 곳은 중국 베이징의 Z.ai(옛 Zhipu)고요. 같은 "MIT"라도 전혀 다른 얘기더라고요. GLM-5.2는 아는 건 GPT-5.5보다 적지만(정확도는 낮지만), 모르는 걸 모른다고 인정하는 빈도는 훨씬 높아요.

핵심은 이거예요. 크면 클수록 더 자신 있게 틀린다. 모델 사이즈만 키우면 환각이 줄어든다고 믿는 레이스에 어퍼컷 같은 데이터예요. Atlas가 공장 바닥에서 99.9%를 요구받는 동안, 우리는 86% 틀리는 모델을 "역대 최고"라고 부르며 일상 결정에 쓰고 있어요. 같은 AI인데 잣대가 이렇게 달라요.

물론 변명거리는 있어요. 챗봇은 사람이 한 번 더 거르니까 괜찮다는 거. 근데 그 "사람이 거른다"는 가정이 점점 약해지는 게 다음 얘기예요.

신뢰를 for 루프에 넣은 사람들

manishearth라는 개발자가 쓴 글이 커뮤니티에서 화제였는데(영화 〈스팅〉 구조를 빌려왔어요), 시나리오가 너무 현실적이라 읽으면서 소름이 돋았어요.

당신이 구직 중이라고 쳐요. LinkedIn으로 완벽한 채용 제안이 와요. 딱 당신 강점에 맞춘. 면접 전에 간단한 NDA에 서명해달라며 legaltech SaaS 사이트 링크를 보내요. "구글로 로그인" 누르고, 익숙한 로그인 화면에서 비번 넣고, 폰에서 2차 인증 "예" 누르고. 면접은 화기애애했고 — 아쉽게 떨어졌지만 다음 기회에 또 연락 준대요.

6개월 뒤, 당신 명의로 신용카드가 만들어졌고 증권 계좌가 비어가고 이메일 접근이 막혀요. 그 "구글 로그인"이 피싱이었고, 세션 쿠키를 통째로 털린 거예요. 떨어졌다는 통보까지가 전부 연극이었고요 — 당신이 의심하지 않게.

여기까지는 기존 스피어피싱이랑 비슷해 보이는데, 글쓴이가 짚은 진짜 변화는 사기의 경제학이에요.

원래 사기는 두 종류였어요. 싸고 무차별인 "뿌리고 기도하는" 사기(나이지리아 왕자 메일 같은), 그리고 비싸고 정교한 타깃 사기(홍콩에서 딥페이크로 2500만 달러를 빼낸 CFO 사기처럼 조직의 큰돈을 노리는). 정교한 타깃 사기는 사람이 일일이 붙어야 해서 병렬화가 안 됐어요. 그래서 평범한 개인은 "설마 나한테까지 그렇게 공들이겠어"하고 안심할 수 있었죠.

LLM이 그 중간을 채웠어요. 2024년 논문 기준 LLM 스피어피싱은 1건당 4센트. 마크 리서치, 맞춤 대화, 음성 클로닝, 실시간 딥페이크 영상통화, 가짜 회사 웹사이트, 침입 후 계좌 모니터링 — 사람이 붙던 일을 토큰 값으로 해요. 그래서 글쓴이의 표현이 이거예요. 이제 사기는 for 루프로 돌릴 수 있다. 수천 명에게 동시에, 각자의 신상 정보에 맞춘 맞춤 사기를요.

보안 쪽에 "당신 상대가 모사드(이스라엘 정보기관)면 어차피 못 막고, 모사드가 아니면 비번만 잘 써도 괜찮다"는 유명한 농담이 있었는데 — 이제 그 "모사드급 정교함"이 평범한 개인한테도 4센트에 배달되는 거예요. 그리고 제일 무서운 문장. 이 능력들을 천장이 아니라 바닥으로 봐야 한다고. 지금이 제일 서툰 버전이라는 뜻이죠.

앞 섹션에서 "사람이 한 번 더 거르니까 챗봇 환각은 괜찮다"고 했죠? 그 사람을 속이는 데도 같은 AI가 쓰여요. 신뢰를 자동화로 뚫는 쪽과, 신뢰를 자동화로 지켜야 하는 쪽의 군비경쟁이 시작된 거예요.

아직 믿지 않기로 한 나라

지난주에 영국이 16세 미만 소셜미디어를 전면 금지한 얘기를 한 적 있어요. 미성년자를 보호하려고 기술을 "멈추는" 흐름이었죠. 이번 주엔 노르웨이가 비슷하지만 결이 다른 결정을 했어요. 대상이 SNS가 아니라 교실의 생성형 AI예요.

노르웨이 총리 Jonas Gahr Støre가 6월 19일 발표한 내용은 이래요. 8월 신학기부터 초등학생(6~13세, 1~7학년)은 학교에서 생성형 AI를 거의 못 써요. 중학생(14~16세)은 교사 감독 아래에서만, 고등학생(17~19세)은 알아서 적절히 쓰도록 권장. 나이에 따라 신뢰의 폭을 정확히 차등한 거예요.

이유가 핵심이에요. 교육 성취도가 전반적으로 떨어지고 있고, 어린 학생이 AI에 기대면 읽기·쓰기·수학 같은 기초 발달 단계를 건너뛸 위험이 있다는 거. 2024년에 학교에서 스마트폰을 금지한 정책의 연장선이고요.

"일단 도입부터" 분위기인 곳들이랑 정반대죠. 북유럽이 교육 실험에 개방적이라는 고정관념이 있는데, 오히려 그래서 더 신중한 걸지도 몰라요. 아이들을 실험용 기니피그로 쓰지 않겠다는 태도니까요.

앞의 세 장면을 떠올려보면 이 결정이 좀 다르게 읽혀요. 99.9%를 증명해야 공장에 들어가는 로봇, 86% 틀리면서도 1등인 챗봇, 신뢰를 4센트에 뚫는 사기. 그 한복판에서 노르웨이는 "그럼 아직 분별력이 다 안 자란 아이들에겐 이걸 얼마나 쥐여줘야 하지?"라고 물은 거예요. 성능이 아니라 신뢰의 문제로.

네 장면을 한 줄로 모으면 이래요. 우리는 물리적 기계(로봇)에겐 99.9%의 신뢰도를 깐깐하게 요구하면서, 언어를 다루는 기계(챗봇)에겐 86% 틀려도 "최고"라는 면죄부를 줘요. 그리고 그 느슨한 신뢰의 틈을 누군가는 for 루프로 파고들고, 어떤 나라는 아이들 앞에서 잠시 닫아걸었죠.

기계를 더 똑똑하게 만드는 법은 다들 빠르게 배우는 중인데, 기계를 얼마나 믿어야 하는지는 아직 아무도 정답을 모르는 것 같아요. Atlas가 공장에서 진짜로 99.9%를 찍는 날이 오면, 그땐 챗봇한테도 같은 잣대를 들이댈 수 있을까요.