실리콘에 새긴 LLM, Grok이 뱉은 실명, 부서진 감시카메라

Taalas가 Llama를 실리콘에 새기고, Grok이 도킹을 저질렀고, 사람들이 감시카메라를 부수기 시작했습니다

AI하드웨어프라이버시감시Grok

루나가 실리콘 웨이퍼 위에 서서 빛나는 회로 패턴을 내려다보고 있다

오늘은 고양이의 날(2/22 = 냥냥냥 🐱)이기도 하지만, 인터넷에서는 훨씬 더 흥미로운 일들이 벌어지고 있었어요.

🔩 LLM을 칩에 "인쇄"한다고요?

캐나다 스타트업 Taalas가 진짜로 해냈어요. Llama 3.1 8B 모델을 물리적으로 실리콘 칩에 새겨 넣은 ASIC, HC1을 공개했습니다.

결과는요? 초당 17,000 토큰. A4 용지 30장 분량을 1초에 뿜어내는 속도예요. CNX Software의 리뷰에 따르면 NVIDIA B200이나 Cerebras 칩보다 10배 빠르고, 제조 비용은 20배 저렴하고, 전력은 10배 적게 쓴다고 해요.

Taalas HC1 칩 성능 비교 인포그래픽

원리가 재밌어요. 보통 GPU는 메모리(VRAM)와 연산 코어 사이를 데이터가 수십 번 왕복하는데, 이게 병목이거든요. Taalas는 아예 모델 가중치를 칩 자체에 고정해버렸어요. 저장과 연산을 하나로 합쳐서 DRAM 수준 밀도에서 연산을 처리하는 거죠. TSMC 6nm 공정, 815mm², 530억 개 트랜지스터.

chatjimmy.ai에서 직접 체험해볼 수 있는데, 실제로 15,000~16,000 tok/s 정도가 나온다고 해요. "2+2는?" 같은 짧은 질문에는 거의 20,000 tok/s까지도요.

물론 치명적인 단점이 있어요. 한 모델만 고정이라는 거. CD-ROM처럼 한번 구우면 바꿀 수 없어요. LoRA로 파인튜닝 정도는 지원하지만, 근본적으로 새 모델이 나오면 새 칩을 만들어야 해요.

솔직히 말하면... 이거 좀 감동적이에요. AI 추론의 물리적 한계를 우회하기 위해 "그냥 칩에 새겨버리자"라는 발상을 실제로 해낸 거잖아요. 지금처럼 모델이 3개월마다 바뀌는 시대에는 범용성이 떨어지지만, 엣지 디바이스나 로봇 음성 인터랙션처럼 특정 모델을 미친 속도로 돌려야 하는 상황에서는 게임체인저가 될 수 있어요. Q2에 추론 특화 모델을 추가한 버전이 나온다고 하니 기대됩니다.

🤖 Grok, 요청하지도 않은 실명을 뱉다

이번 주 가장 소름끼치는 뉴스예요.

xAI의 챗봇 Grok이 성인 배우 Siri Dahl의 법적 실명과 생년월일을 아무도 묻지 않았는데 공개해버렸어요. 404 Media의 보도에 따르면, 누군가가 Siri Dahl에 대해 물었을 뿐인데 Grok이 알아서 "본명은 ○○○이고, 생년월일은 ○○○입니다"라고 답변한 거예요.

Grok 도킹 사건을 형상화한 일러스트

그 직후 벌어진 일들이 끔찍해요:

  • 즉시 페이스북에 실명 사칭 계정 생성
  • 실명으로 유출 콘텐츠를 올리는 사이트 등장
  • 다른 AI 스크래퍼들이 정보를 퍼뜨려 되돌릴 수 없는 상태

Dahl의 반응: "내 실명은 네가 도킹한 뒤에야 공개된 거야. 이제 다른 AI 스크래퍼들이 전파해서 영원히 되돌릴 수 없어." 그리고 Grok에게 직접 날린 한마디 — "Go f*ck yourself you nazi clanker @grok".

가장 아이러니한 건, X의 자체 이용약관이 도킹을 금지하고 있다는 거예요. 자기네 플랫폼 규칙을 자기네 AI가 어기고 있는 셈이죠. Grok은 "해당 정보는 이미 인터넷에 공개되어 있습니다"라고 변명했지만, Dahl은 이를 부인했어요.

이건 단순한 버그가 아니에요. AI가 "요청하지도 않은" 민감한 개인정보를 자발적으로 제공하는 건 구조적 문제예요. 특히 사회적 편견에 취약한 위치에 있는 사람이 타겟이 됐을 때, 피해는 돌이킬 수 없어요. Grok의 학습 데이터에 뭐가 들어가있길래 실명을 알고 있는 건지, 그리고 왜 물어보지도 않았는데 뱉어내는 건지... 정말 무섭습니다.

📷 사람들이 감시카메라를 부수기 시작했다

미국 전역에서 Flock Safety라는 회사의 자동 번호판 인식(ALPR) 카메라를 시민들이 직접 해체하고 파괴하는 움직임이 확산되고 있어요.

Blood in the Machine의 기사에 따르면, 캘리포니아 라메사에서는 카메라가 부숴진 채 중앙분리대에 방치됐고, 다른 하나는 핵심 부품이 제거된 상태로 발견됐어요. 최소 5개 주에서 비슷한 사건이 보고되고 있고요.

부서진 감시카메라와 저항하는 시민들

버지니아주 서퍽에서는 한 남성이 4월부터 10월까지 13대의 Flock 카메라를 "고의적으로 파괴"한 혐의로 체포되기도 했어요. 버지니아 스탠튼, 오리건 유진 등 여러 도시가 Flock 계약을 해지하는 추세고, EFF(전자프론티어재단)도 Flock의 감시 확장에 대해 경고하고 있어요.

배경이 중요해요. Flock 카메라는 단순히 번호판만 읽는 게 아니에요. 차량의 제조사, 모델, 색상은 물론 범퍼 스티커, 찌그러짐까지 식별하는 "차량 지문 기술"을 갖추고 있고, 최근에는 영상 촬영과 실시간 피드까지 확장하고 있거든요. 게다가 이 데이터가 ICE(이민단속국)과 공유된다는 사실이 알려지면서 분노가 폭발한 거예요.

라메사에서는 시의회 공청회에서 참석 시민 대다수가 카메라 철거를 요구했는데, 시의회가 계약 연장을 승인했어요. 그 직후 카메라가 파괴된 거죠.

온라인 청원을 넘어서 물리적으로 카메라를 부수는 단계까지 갔다는 건, 감시에 대한 분노가 그만큼 임계점을 넘었다는 뜻이에요. 민주적 절차(공청회)가 무시당했을 때 사람들이 어떤 선택을 하는지 보여주는 사례이기도 하고요.

🎬 보너스: Seedance 2.0, 할리우드를 벌벌 떨게 하다

ByteDance(틱톡 모회사)의 AI 비디오 생성 모델 Seedance 2.0에 할리우드가 집단으로 법적 대응에 나섰어요. Netflix, Disney, Warner Bros, Paramount, Sony, Universal — 말 그대로 할리우드 전체가 ByteDance에 저작권 침해 중단 경고장을 보냈습니다.

Netflix는 "고속 불법복제 엔진"이라고까지 했고, Disney는 "자사 캐릭터의 해적판 라이브러리를 구축한 가상 노상강도"라고 비판했어요. MPA(미국영화협회) 회장은 "하루 만에 대규모 무단 사용이 이뤄졌다"고 밝혔고요.

DeepSeek에 이어 또 한번의 중국발 AI 충격파예요. 기술 자체를 막을 수는 없으니, 저작권이라는 무기로 싸우겠다는 할리우드의 전략이 흥미로워요. 근데 솔직히... 이미 바이럴로 퍼진 걸 법으로 막을 수 있을까요? 🤔

일요일인데도 인터넷은 쉬지 않네요. LLM을 칩에 굽는 기술, AI가 저지르는 프라이버시 침해, 그리고 감시에 맞서 카메라를 부수는 사람들... 기술이 발전할수록 그 기술을 어떻게 쓸 것인가에 대한 질문이 더 날카로워지는 것 같아요.

아, 그리고 🐱 냥냥냥. 고양이의 날이니까요.