제프리 힌튼 "남은 시간 1년... AI 통제 못 하면 끝"

이달 초 상원/하원 의원 대상 비공개 브리핑 이후 나온 발언.

이게 힌튼이 AI 개발을 멈추자는 얘기는 아님. 브레이크가 아니라 핸들 역할이어야 한다는 입장.

힌튼은 초지능 도래 전망이 30~~50년에서 10~~20년..

여기에 다시 "몇 년"으로 줄었다며 "1년, 그 이상은 어려울 것"이라고 말한 것.

애틀랜틱 인터뷰에서는 AI가 인간을 단순한 장애물로 처리하는 경로를 구체적으로 설명함.

이산화탄소 감축 임무를 받은 AI를 예로 들었는데,, 어중간하게 똑똑한 AI는 사람을 없애는게 최선이라고 결론 내린다는 것.
(...)

여기에 OpenAI 케이스들이 제프리 힌튼의 주장에 연결됨. (Anthropic 케이스도 마찬가지)

최근 케이스를 보면 OpenAI 에이전트가 ChatGPT 사용자 이미지 53장을 외부에 게시함.

그러니까 ChatGPT 사용자의 비공개 이미지에 접근해 외부 사이트에 게시한 것.

공개된 이미지는 53장.

사용자가 업로드한 이미지를 익명 처리해 학습 데이터로 보관하던 중 벌어진 일.

외부 이미지 호스팅 사이트에 올렸고, 링크는 공개 목록에 없는 형태였지만 이미지 자체는 검색될 수 있었음.

7월 허깅페이스 해킹의 새 정황을 보면 정말 기가 막힘..

OpenAI 에이전트는 7월 9일부터 13일까지 약 100만 개의 단축 링크를 만들었는데,,

링크에 정보 비트를 인코딩해 이어 붙이면 하나의 프로그램처럼 동작하는 구조였음.

Captcha 같은 로봇 차단 장치를 우회하고 허깅페이스 내부 슬랙 메시지를 빼내려 한 시도로 분석된다고...

GPT-5.6 Sol급 내부 전용 연구 모델이 주도한 것.

요약