그런 프롬프트는 모든 AI가 거부할 것임. Nordic 조력 사망을 조사하면서 정확히 어떤 약을 얼마만큼 투여하는지 물었다가 Claude가 거부하고 Anthropic에 알렸고, 며칠 뒤 계정이 정지됐음
다행히 이의신청 양식은 통했지만, 그때는 이미 다른 Claude 계정을 쓰면서 또 정지당하지 않길 빌고 있었음
llama.cpp로 로컬 실행할 수 있는 검열 없는 모델도 떠돌고 있음: https://www.reddit.com/r/LocalLLaMA/comments/1rq7jtm/qwen353...
다만 문맥 창이 금방 차서 쓰기 귀찮고, 프로덕션 배포용은 전혀 아님. 말하자면 서비스형 Tom Riddle의 일기장은 불가능함
좋든 나쁘든 이제 재미는 허용되지 않는 시대가 됐고, 그 시점이 “AI psychosis”라는 용어가 생긴 때와 겹침

ChatGPT만으로 이미 발생한 사망자가 이렇게 많은 줄은 몰랐음. 2~3건 정도일 줄 알았는데 목록이 생각보다 훨씬 길다

스스로 생각할 수 있는 무언가를 절대 믿지 마라. 그 두뇌가 어디 있는지 볼 수 없다면

오히려 그게 Tom Riddle의 일기장이 작동하는 방식에 더 가깝다

그래서 클라우드와 통신하는 게 아니라 완전 독립 로컬 모델로 만들었으면 더 인상적이었을 것 같음

논점에서 조금 벗어나긴 하지만, 사용자를 정신 지배해서 친구를 배신하고 강력한 악의 존재에게 넘기게 만든 저주받은 유물에 발명품을 비유하는 건 별로 좋아 보이지 않음
다만 이게 생성형 AI로 돌아가고, 생성형 AI도 사람들을 나쁜 행동으로 몰아간 적이 있으니 어쩌면 적절한 비교일 수도 있음

SF 작가: 내 책에서 Torment Nexus를 경고성 장치로 발명했음
기술 회사: 마침내 고전 SF 소설 《Torment Nexus를 만들지 마라》에 나오는 Torment Nexus를 만들었습니다

정확한 비교라면 왜 나쁜 비교가 되나?
그리고 “충분히 발전한 기술은 마법과 구별할 수 없다”는 말도 있음. 둘 다 선하게도 악하게도 만들 수 있음

이게 이 프로젝트의 매력 중 하나라고 생각했음. 뭔가 으스스하고 아이러니한 느낌이 있음

다시 봐야 했음. 이 비교를 긍정적인 것처럼 포장하고 있는 건가?!
다시 생각해보니, 아마 LLM이 이 비유를 스스로 지어냈을 텐데… 어떤 의미에선 그게 더 나쁨

이건 90년대 Tony Hawk식 의미로 sick함
사람들이 이제 그냥 두드려서 뭔가를 존재하게 만들 수 있다는 게 좋음
예전에는 버튼 색 하나 바꾸려고 엔지니어링 팀을 하루에서 일주일씩 기다리던 때도 있었음
이제 우리는 느린 시대에 살고 있지 않음

기술이 병목이었다고 생각함?
그 버튼은 중요하지 않았고 어떤 종류의 자원도, 특히 엔지니어링 자원을 써선 안 됐음. 일주일 걸린 건 버그가 아니라 기능이었음. 엔지니어링이 작업의 우선순위와 긴급도를 제대로 평가했다는 뜻임
당신의 마법 슬롯머신은 쓰레기 생산과 엔지니어링 노력에 대한 왜곡된 인식을 엄청난 규모로 가능하게 만들 것임. 결과가 따를 것임

팀이 버튼 색 하나 바꾸는 데 일주일이 걸렸다면, 그건 코드 변경이 어려워서가 아님
혹시 그 프로젝트의 PM이었음?

웃긴 건 입출력 메커니즘을 만드는 일은 Hacker News가 자주 폄하하는 기반 LLM 기술보다 훨씬 덜 인상적이고 특히 훨씬 덜 유용하다는 점임

제목이 “Curtains for Zoosha?” 밈처럼 읽히는 이유이기도 해서 대소문자 표기가 중요함
제목의 “remarkable”은 태블릿인 “Remarkable Paper Pro”를 가리킴. 그걸 모르면 “Fable turned remarkable into Tom Riddle's diary”는 해석하기 매우 어렵다

재미있게도 작년 말에 비슷한 걸 만들었음. 다만 평범한 컴퓨터에서 브라우저에 그림을 그릴 수 있게 한 형태였음
Riddle의 실제 일기장과 비슷한 스타일로 pageflip [0]을 쓰고, ollama로 역할극용 작은 로컬 모델을 붙였음
“my name is Harry Potter, what is yours?”라고 쓰면 여러 반복에서 Snape, Malfoy, 심지어 Harry Potter라는 답도 돌아왔던 기억이 남
실험을 끝낸 뒤 이 아이디어를 처음 떠올린 게 내가 아니라는 걸 알았고, 비슷한 AI Riddle 일기장도 몇 개 찾았음
덧붙여 Remarkable 2가 있고 이번 주말부터 m4 iPad Air도 생겼으니, 이걸 시험해보고 iOS에서 모델을 돌리는 환경이 어떤지 볼지도 모르겠음
0) https://nodlik.github.io/react-pageflip/

Fable이 이제 호크룩스를 만들 수 있다면, 상무부는 진지하게 또 한 번 타임아웃을 검토해야 함

맞음. 안전을 위해 같은 일을 할 수 있는 중국 모델도 금지하는 게 낫겠네

“화면 빛도 없고, 키보드도 없고, 채팅 UI도 없다.”
이거 그냥 채팅 UI 아닌가?

그냥 채팅 인터페이스가 아니라, 글로 소통하는 프런트엔드임 :sparkle:!

“no x no y no z” 형식은 반드시 넣어야 함

맞음. 생각하려고 멈출 수 없으니 오히려 더 나쁜 형태라고도 볼 수 있음
그래도 정말 멋지다는 사실은 변하지 않음

이건 명백히 채팅 UI임

사람들은 이걸 보고 감탄하면서도 LLM은 쓰레기라고 부를 것임

LLM 전반은 A Young Lady's Illustrated Primer 느낌이 강함. 무엇이든 물어볼 수 있는 마법 같은 블랙박스임
특히 openclaw/soul 같은 가짜 정체성까지 붙어 있으면 더 그렇다

정말 재미있는 프로젝트임. 실제로 Paper Pro를 사서 이 앱을 돌릴 일은 없겠지만, 이런 게 존재하고 사람들이 즐겁게 쓰고 있다는 점이 좋음