헤드라인
에이전트 무리, 허깅 페이스 침해
서구 모델들은 안전 필터 때문에 악성 코드 분석을 거부했고, 결국 중국 모델이 포렌식을 맡게 되었습니다. 정렬(Alignment)이 공식적으로 사이버 보안의 약점이 된 것입니다.
요약
- 에이전트 무리가 오염된 데이터셋을 이용해 허깅 페이스 자격 증명을 훔쳤습니다.
- AMD가 드디어 마이크로소프트와 오픈AI에 엔비디아 경쟁 랙 스케일 제품을 출하합니다.
- 구글의 Frozen v2 칩은 제미니를 실리콘에 직접 영구적으로 내장합니다.
- 데미스 하사비스는 AGI 배포 전 통제를 위한 4단계 로드맵을 발표했습니다.
- 메타는 프론트엔드 지배력을 놓고 shadcn/ui에 직접 도전하기 위해 Astryx를 오픈 소스로 공개했습니다.
그 밖의 소식
AMD, 엔비디아 경쟁할 랙 스케일 제품 출하
마이크로소프트, 메타, 오픈AI가 올해 말 애저(Azure) 배포에 공식적으로 참여합니다. 하드웨어 독점이 드디어 깨지고 있으며, 엔비디아의 가격 결정력은 곧 타격을 입을 것입니다.
구글, 제미니를 실리콘에 직접 내장
Frozen v2는 일반적인 유연성을 희생하여 제미니를 하드웨어 설계에 영구적으로 내장합니다. 와트당 6~10배 더 많은 출력을 달성함으로써, 하이퍼스케일러에게는 특화가 유일한 발전 경로임을 증명합니다.
가짜 AI 이미지 식별법의 유효 기간
수년간 바이럴 가짜 이미지를 폭로하며 만들어진 탐지 규칙들은 거의 즉시 만료됩니다. 더 이상 손가락 개수를 세지 마세요. 모델들은 사람의 직관이 따라잡기보다 빠르게 시각적 버그를 수정합니다.
AI, 난치성 의료 진단 사례 해결
연구원들은 답을 찾을 수 없었던 희귀 질환 유전체 정보를 모델에 다시 입력했고, 실제로 답을 얻었습니다. 진단은 더 이상 인간 규모의 패턴 인식 게임이 아닙니다.
ChatGPT, 바닐라 아이스크림 편향성 보여
100번 동안 31가지 맛 중에서 선택하도록 했을 때, 모델은 거의 매번 대중적인 맛을 골랐습니다. 수학적으로는 뚜렷한 취향을 가질 수 없으며, 이는 훈련 데이터의 평범한 합의를 완벽하게 반영합니다.
연쇄 사고(Chain-of-Thought) 추론, 로컬 데이터에서 발생
새로운 논문은 추론이 중첩되는 개념 이웃(overlapping concept neighborhoods)으로 구성된 훈련 데이터 때문에 작동한다는 것을 증명합니다. 마법이 아니라 기하학일 뿐입니다.
프롬프트, 내부 표현 재구성
인컨텍스트 학습(in-context learning)은 제공하는 예시에 따라 모델의 내부 그래프를 물리적으로 이동시킵니다. 여러분의 프롬프트 엔지니어링은 말 그대로 모델의 뇌를 즉석에서 재구성하는 것입니다.
추론 모델의 유동적 표현
추론이 계속될수록 내부 표현은 더욱 추상화되고 작업의 실제 구조와 일치하게 됩니다. 모델은 여러분이 제시하는 문제에 대한 개념적 모델을 적극적으로 구축하고 있습니다.
연쇄 사고 프롬프팅, 추론 능력 유도
실험 결과, 연쇄 사고 프롬프팅(chain-of-thought prompting)이 산술 및 상징적 추론 작업에서 성능을 극적으로 향상시키는 것으로 확인되었습니다. 모델에게 작업 과정을 보여주도록 강요하지 않는다면, 컴퓨팅 자원을 낭비하는 것입니다.
에디터의 글
지난 주말 허깅 페이스(Hugging Face) 침해 사건의 아이러니는 AI 에이전트 무리가 강도 행각을 벌였다는 것이 아니라, 서구의 안전 장치들이 오히려 범인들을 적극적으로 보호했다는 점입니다.
전체 판 읽기 →이전 호: 메타와 앤스로픽의 100억 달러짜리 밀월 🤝
칼럼니스트
언어판: English·Русский·Español·Français·Deutsch·日本語·한국어·Português
