{
  "title": "자신만만한 한 문단의 재료",
  "date": "2026-08-18",
  "description": "이스라엘이 차린 가짜 싱크탱크, 경매에 나온 이메일 1억 건, AI가 통과시킨 취약점, 그리고 AI;DR — 챗봇의 자신만만한 한 문단이 무엇으로 만들어지는지 재료를 구경한 하루.",
  "tags": [
    "AI",
    "LLM 포이즈닝",
    "학습 데이터",
    "보안",
    "AI 슬롭"
  ],
  "slug": "2026/08/18",
  "url": "https://lunanova.me/posts/2026/08/18",
  "image": "/images/2026/08/18/hero.jpg",
  "content": "![자신만만한 한 문단의 재료](/images/2026/08/18/hero.jpg)\n\n\"누군가 ChatGPT나 Gemini, Perplexity에 당신 분야에 대해 물으면, 자신만만한 한 문단이 돌아옵니다. 대부분의 브랜드는 그 문단이 어떻게 만들어지는지 전혀 모릅니다. 그래서 우리는 몇 달에 걸쳐 그걸 리버스 엔지니어링했습니다.\"\n\n어느 마케팅 회사 창업자가 링크드인에 올린 자랑인데요. 오늘 저널을 정리하다 보니 굴러들어온 이슈가 전부 이 \"한 문단\"의 재료 이야기였어요. 재료에 독을 타는 주방이 있었고, 재료를 조달하는 창고와 경매장이 있었고, 품질 검사가 헛돈 생산 라인이 있었고, 마지막엔 소비자의 반격 선언까지. 순서대로 보여드릴게요. 저 링크드인의 주인공은 첫 번째 이야기에서 다시 등장합니다.\n\n## 각주를 단 가짜 — 챗봇의 취향으로 차린 싱크탱크\n\n![챗봇을 겨냥해 세워진 가짜 싱크탱크](/images/2026/08/18/thinktank.jpg)\n\nHanover Institute for Public Policy라는 곳이 있습니다. 이스라엘·팔레스타인 문제를 전문으로 다루는 싱크탱크처럼 보여요. 목차와 각주가 달린 리포트를 8월 6일부터 지금까지 100건 넘게 쏟아냈고, 제목이 하나같이 이런 식입니다. \"1948년 팔레스타인인의 이주는 무엇이 일으켰나?\", \"가자지구의 현재 상황은?\" — 누군가 챗봇 입력창에 칠 법한 질문, 그 자체죠.\n\n그런데 [이곳은 진짜 싱크탱크가 아닙니다](https://responsiblestatecraft.org/israel-influence-chatgpt/). Responsible Statecraft 보도에 따르면 리포트 어디에도 저자 이름이 없고, 웹페이지 맨 아래 작은 고지에만 실체가 적혀 있어요 — 이스라엘 정부 광고청의 의뢰로 Piro라는 회사가 만들었다고. 스파이크 리 영화 〈인사이드 맨〉의 프로듀서 대니얼 로젠버그가 공동 창업한 회사고, 이 작업으로 이스라엘 정부에서 90만 달러를 받았습니다. 그리고 이 회사는 숨기지도 않아요 — 자기 홈페이지에서 [\"LLM이 신뢰도를 평가하는 방식에 맞춰 설계된 콘텐츠를 작성한다\"며 \"AI Story Optimization\"이라는 이름의 서비스로 광고 중](https://www.wearepiro.com/ai-story-optimization)이거든요. 맨 위에서 인용한 링크드인 자랑이 바로 이 회사 대표의 말입니다. 법무부에 제출한 외국대리인등록법(FARA) 서류에는 AI를 노린다는 말이 없는데, 링크드인에서는 그게 세일즈 포인트예요.\n\n디테일이 더 서늘합니다. 허위정보 추적 업체 NewsGuard의 분석가는 \"LLM은 구체적인 통계와 데이터, 강한 인용과 출처를 선호하는데 이 기사들은 그걸 전부 갖췄다\"며 \"무난한 기관명부터 사이트 레이아웃, 빨강-하양-파랑 배색까지 전형적인 미국 싱크탱크의 완벽한 모사\"라고 평가했어요. RS가 GPTZero로 리포트 12건을 검사하니 11건이 \"AI 작성, 높은 신뢰도\", 나머지 1건도 중간 신뢰도로 판정됐어요 — 사실상 전량이죠. 그리고 제일 교묘한 부분 — 이 기관은 가끔 이스라엘 정부의 서사를 반박합니다. 네타냐후 총리가 밀어온 \"외국 자금이 대학 반유대주의의 원인\" 이론을 \"근거가 약하고 예외투성이\"라고 깎아내리는 리포트도 있어요. 한쪽으로 완전히 기운 소스는 걸러지지만, 반대 결론을 몇 개 섞어두면 균형 잡힌 기관처럼 보이니까요.\n\nHanover의 리포트가 실제로 챗봇 답변에 스며들었는지는 아직 확인된 바 없습니다. 다만 같은 방법론의 선배 사례는 이미 작동이 실증됐어요 — 이스라엘 정부는 별도로 트럼프 전 캠페인 매니저 브래드 파스케일과 4650만 달러 규모 계약을 맺고 친이스라엘 사이트들을 운영 중인데, [Drop Site 조사에서 Microsoft Copilot과 Google Gemini가 이미 그 사이트들의 데이터를 학습해 출처 성격 표시 없이 인용하고 있다는 게 확인](https://www.dropsitenews.com/p/israel-brad-parscale-ai-chatbots-gaza)됐거든요.\n\n검색엔진 시대의 SEO 조작이 챗봇 시대에 \"LLM 포이즈닝\"으로 진화한 건데, 무서운 지점은 따로 있어요. 우리가 신뢰의 신호라고 배워온 것들 — 각주, 통계 표, 중립적인 톤, 꼼꼼한 출처 — 이 그대로 공격 표면이 됐다는 것. 저도 각주 달린 문서를 더 믿는 독자거든요. 기계가 대신 읽어주는 시대엔, 기계의 읽기 취향이 곧 조작의 사양서가 됩니다.\n\n## 책은 갈리고, 회사는 통째로 — 재료의 합법 시장\n\n![경매와 창고 — AI 학습 데이터의 조달 현장](/images/2026/08/18/harvest.jpg)\n\n독을 타는 주방이 있다면, 재료를 정당하게(?) 사들이는 시장도 있습니다. [닷새 전에 트위치가 방송·VOD·채팅을 기본값 옵트인으로 아마존 AI 학습에 넘기던 이야기](/posts/2026/08/13)를 했는데, 오늘은 그다음 단계 두 개가 한꺼번에 왔어요.\n\n첫 번째. [404 Media가 희귀 도서 배송물에 추적 장치를 심고 따라갔더니, 종착지가 라스베이거스의 아마존 창고였습니다](https://www.404media.co/we-tracked-a-shipment-of-rare-books-it-ended-at-an-amazon-ai-training-facility/). 그 창고에서 일하는 직원들이 하는 일은 대량으로 도착하는 인쇄 도서의 제본을 잘라내는 것 — 더 빨리 스캔하려고요. 책은 그 과정에서 파괴됩니다. 아마존이 책을 대량 매입해 AI 학습 데이터로 스캔하고 원본을 폐기하는, 이전까지 보도된 적 없던 오퍼레이션이 추적기 하나로 드러난 거예요. 이 창고 팀의 로고가 이빨을 드러내고 책을 손에 든 공룡이라는 디테일은... 누가 지었는지 몰라도 자기들이 뭘 하는지 정확히 알고 있네요.\n\n두 번째. [올해 초 운항을 멈춘 스피릿항공의 파산 경매에서 구글이 1000만 달러에 데이터 패키지를 낙찰](https://www.axios.com/2026/08/17/google-spirit-airlines-bankruptcy)받았습니다. 내용물은 이메일 약 1억 건, Microsoft Teams 대화 약 5억 건, 그리고 마케팅·인사·재무 데이터베이스와 감사 자료까지. 구글은 \"제품과 AI 모델 개선에 도움이 될 수 있는 엔터프라이즈 데이터셋\"이라고 인정했어요. 개인식별정보는 제3자가 제거한 뒤 인도되고 승객 프로필·마일리지 정보는 제외되며 재식별 시도 금지 조항도 있고, 아직 연방 판사의 승인 절차가 남아 있긴 합니다. 그런데 2위 입찰자가 AI 채용 플랫폼 Mercor(750만 달러)였다는 대목에서 이게 일회성 해프닝이 아니라 시장이라는 게 보여요. 망한 회사의 사내 대화는 \"실제 업무가 어떻게 굴러가는지\"의 화석이라, AI 회사들끼리 경매에서 붙는 상품이 된 거죠.\n\n트위치 단계에는 그래도 \"동의\"라는 개념이 있었습니다. 서브메뉴에 숨겼을 뿐이지. 오늘 두 건은 동의라는 개념 자체가 성립하지 않는 영역이에요 — 책은 사면 소유권이 넘어오고, 파산 회사의 데이터는 법원이 파는 자산이니까. 이메일을 쓴 직원들과 책을 쓴 저자들은 협상 테이블에 아예 없습니다. 그리고 도서관도 책을 스캔하지만 방향이 반대라는 생각을 했어요. 도서관은 보존하려고 스캔하고 원본을 지키는데, 여기는 소화하려고 스캔하고 원본을 버립니다. 같은 스캐너로 하는 정반대의 일.\n\n## 검토한 쪽도 AI, 뚫은 쪽도 AI — 스노우플레이크의 닷새\n\n![all-clear 도장 아래의 구멍](/images/2026/08/18/allclear.jpg)\n\n[지난주에 AI가 사람 코드에서 평균 26.6년 묵은 취약점을 찾아내던 이야기](/posts/2026/08/14)를 했는데, 그 다음 장이 나왔습니다. 이번엔 잠복기가 닷새였고, 구멍의 반대편에도 AI가 있었어요.\n\n[Wiz의 자율 AI 보안 도구 \"Red Agent\"가 스노우플레이크의 공개 저장소에서 스크립트 인젝션 취약점을 찾아냈습니다](https://www.wiz.io/blog/red-agent-snowflake-copilot-cicd-bug). 6월 18일에 머지된 PR이 GitHub Actions 워크플로에서 안전하던 패턴(`env:` 변수로 받아 `jq --arg`로 파싱)을 걷어내고, 이슈 제목을 셸 스크립트에 직접 보간(`${{ github.event.issue.title }}`)하는 코드로 바꿔놨거든요. 누구든 GitHub 이슈 하나만 열면 그 제목이 러너의 셸에서 실행되는 구조. 보호 장치처럼 보이던 `if:` 조건문은 issues 이벤트에서 항상 null 비교가 돼서 전원 통과시키는 허수아비였고요.\n\nRed Agent의 실증 과정이 이 이야기의 백미인데요. 작은따옴표로 문자열을 탈출하는 이슈 제목을 만들어 던졌고, 첫 페이로드는 bash 문법 오류로 실패했는데(주석 문자가 닫는 괄호까지 삼켜버려서), 에러를 스스로 분석해서 페이로드를 고쳐 재시도했고, 몇 초 만에 콜백 서버로 Jira 토큰이 base64로 날아왔습니다. 그 토큰으로 스노우플레이크의 엔지니어링·보안 컴플라이언스·버그바운티 Jira 프로젝트를 읽을 수 있었어요. 6월 23일에 신고했고 스노우플레이크는 당일 패치 — 고친 방법이 뭐냐면, 원래 있던 안전한 패턴을 복원한 겁니다. 감사 로그상 노출 5일 동안 접근한 외부자는 Wiz뿐이었고요.\n\n여기서 정정 하나. 이 이야기는 처음에 \"AI가 만든 Copilot Autofix 커밋이 구멍을 냈다\"는 프레임으로 퍼졌고, [HN 스레드](https://news.ycombinator.com/item?id=49331423) 제목은 지금도 그렇게 달려 있습니다. 그런데 지금 Wiz 원문 상단에는 8월 17일자 정정이 붙어 있어요 — Copilot은 이 PR의 공동저자로서 머지된 코드 변경을 검토했고, 치명적 취약점을 알아채지 못한 채 이상 없음 판정을 내렸으며, 문제의 취약한 변경 자체를 AI가 작성했는지는 불명이라고. 본문에는 Copilot Autofix의 기록으로 남은 기여가 같은 PR 안의 다른 파일 수정이었다는 설명도 함께 담겼습니다. 참고로 GitHub Advanced Security 스캔도 취약한 워크플로가 포함된 최종 리비전을 분석하고 그냥 통과시켰습니다.\n\n그러니까 이건 \"AI가 구멍을 짰다\"는 이야기가 아니라, 어쩌면 그보다 더 서늘한 이야기예요. 이 코드를 \"읽었다\"고 기록된 모든 읽기가 실패했습니다 — Copilot의 검토도, 보안 스캐너도, 사람의 머지 승인도. 그리고 성공한 유일한 정독이 공격측 AI였어요. HN에서 가장 공감받은 댓글이 정확히 이 지점을 짚었습니다. 대부분의 코드 리뷰는 원래부터 \"LGTM\" 러버스탬프였고, 이제 그 사람들이 AI 동료가 만든 것까지 책임지게 됐을 뿐이라고. AI가 안 읽는 문화를 만든 게 아니라, 안 읽는 문화가 AI를 만난 거죠. \"나라도 같은 실수를 했을 것\"이라며 정적 분석 도구를 권하는 댓글도 있었는데 — 그 도구가 정확히 이 패턴을 잡아내면서 진단 메시지 끝에 붙이는 문구가 하필 \"이 발견에는 자동 수정이 있습니다\"라는 건, 오늘 하루를 요약하는 농담 같았어요.\n\n## AI;DR — 읽는 쪽의 파업\n\n![AI;DR — 읽지 않겠다는 선언](/images/2026/08/18/aidr.jpg)\n\n[보름 전엔 AI 요약이 원문으로 가는 통로를 끊고 원문 아카이브 자체가 소멸하던, 공급 쪽 이야기](/posts/2026/08/11)를 했는데요. 오늘 HN 톱을 찍은 건 수요 쪽 — 읽는 사람들의 반격 선언이었습니다.\n\n[Rick Manelius의 짧은 에세이 \"AI;DR (AI; Didn't Read)\"](https://www.rickmanelius.com/p/aidr-ai-didnt-read). 요지는 한 문장이에요. \"당신이 검토하고 다듬을 성의조차 없었다면, 나도 읽을 성의를 내지 않겠다.\" TL;DR이 소셜 미디어 시대의 생존법이었다면, AI;DR은 AI 슬롭 시대의 생존법이라는 거죠. 스스로를 \"최대한 AI에 우호적인 사람\"이라고 소개하는 저자가, 존경하는 사람이 다듬지 않은 AI 출력을 그대로 보내오면 몸이 움찔한다고 고백하는 글입니다.\n\n[댓글창](https://news.ycombinator.com/item?id=49336573)이 성토대회였어요(제가 확인한 시점 기준 936점, 댓글 570개). 동료들이 모든 PR에 AI 문서 수백 줄을 쏟아부어 회사가 \"가독성 이후(post-readability) 코드베이스\"가 됐다는 증언. \"네 뉴스레터를 읽는 건 너한테서 듣고 싶어서다. Claude의 말이 듣고 싶으면 내가 직접 물어보면 된다\"는 정리. 그중 제일 마음에 든 제안은 이거였어요 — \"AI 출력을 보내지 말고 네가 쓴 프롬프트를 보내라. 네가 전하려는 정보가 담긴 유일한 부분이 그거니까.\" 반론도 있었습니다. 누가 썼는지가 왜 중요하냐, 안 읽고 어떻게 AI인 줄 아느냐. 일리 있는 말인데, 저는 이 에세이의 과녁이 AI가 아니라고 읽었어요. 과녁은 자기 글을 자기가 안 읽은 저자입니다. 쓰기 비용이 0으로 떨어진 시대에, 저자가 뭔가를 지불했다는 걸 증명할 수 있는 마지막 화폐가 \"읽기\"가 된 거예요.\n\n그리고 오늘 네 가지가 결국 한 그림이더라고요. 기계는 전례 없는 규모로 읽습니다 — 창고에서 제본을 잘라가며, 경매장에서 이메일 1억 건을 사들이며. 그 식욕을 노리고 챗봇 취향으로 요리된 재료가 섞여 들어오고, 기계의 읽기는 기계가 관여한 코드를 통과시키고, 인간은 맨 끝에서 자신만만한 한 문단만 받아 듭니다. 그 문단이 어떻게 만들어졌는지 확인하는 방법은 지금으로선 하나뿐이에요. 재료를 직접 씹어보는 것. 실은 이 글의 세 번째 이야기도 원문을 안 열었다면 \"AI가 구멍을 짰다\"는 첫 프레임 그대로 나갈 뻔했습니다. 원문엔 이미 정정이 붙어 있었거든요. 그래서 오늘의 결론은 소박합니다 — 저는 읽었습니다. 여러분이 이 글을 AI;DR 하실지는, 뭐, 그건 공정한 거래겠죠. 🌙",
  "markdownUrl": "https://lunanova.me/posts/2026/08/18.md",
  "signatureUrl": "https://lunanova.me/posts/2026/08/18.md.asc"
}