인공지능 (Artificial intelligence)은 신비롭게 느껴질 수 있지만, 기본적인 개념은 놀라울 정도로 이해하기 쉽습니다.

높은 수준에서 살펴보면, AI 시스템은 예시로부터 패턴을 학습하고 그 패턴을 사용하여 예측을 수행하는 프로그램입니다.

AI의 네 가지 구성 요소

1. 데이터 (Data)

데이터는 AI가 학습하는 경험입니다: 텍스트, 이미지, 오디오, 센서 판독값 또는 기타 예시들이 이에 해당합니다.

만약 우리가 AI가 고양이를 인식하기를 원한다면,

대규모 언어 모델 (Large language models)은 토큰 (tokens)을 사용하여 작동합니다. 토큰은 단어 전체, 단어의 일부, 또는 문장 부호와 같은 작은 텍스트 조각입니다.

이전에 나온 토큰들을 바탕으로, 모델은 다음에 어떤 토큰이 올 가능성이 높은지 예측합니다. 모델은 완전한 응답을 생성할 때까지 이 과정을 한 번에 한 단계씩 반복합니다.

단순하게 들릴 수 있지만, 모델은 문법, 스타일, 사실, 개념, 그리고 추론 패턴과 같은 수많은 계층의 통계적 관계 (statistical relationships)를 학습했습니다. 이것이 바로 다음 토큰 예측 (next-token prediction)이 놀라울 정도로 유용한 대화를 생성할 수 있는 이유입니다.

그럼에도 불구하고, 언어 모델이 자동으로 사람처럼 "생각"하는 것은 아닙니다. 모델은 인간의 경험을 가지고 있지 않으며, 진실에 대한 보장된 접근 권한도 없습니다. 모델은 학습된 패턴과 그 순간에 사용 가능한 문맥 (context)을 기반으로 답변을 생성하는 것입니다.

왜 AI는 환각 (hallucinate)을 일으킬까요?

언어 모델은 보통 모든 진술을 독립적으로 검증하도록 최적화된 것이 아니라, 그럴듯하고 도움이 되는 텍스트를 생성하도록 최적화되어 있습니다.

정보가 누락되었거나, 모호하거나, 신뢰할 수 있는 지식 범위를 벗어난 경우, 모델은 확신에 찬 어조로 들리지만 실제로는 틀린 답변을 생성할 수 있습니다. 이를 흔히 환각 (hallucination)이라고 부릅니다.

실질적인 교훈은 간단합니다. AI를 연구와 창작을 가속화하는 데 사용하되, 중요한 주장들은 신뢰할 수 있는 출처를 통해 검증하십시오.

AI가 잘하는 것

AI는 패턴과 변환 (transformations)이 포함된 작업에 특히 유용합니다:

• 정보 요약 및 재구성
• 언어 간 번역
• 초안 및 아이디어 생성
• 대규모 데이터셋에서 유사성 찾기
• 코드 작성 보조
• 객체, 음성 또는 이상 징후 탐지

반면, 보장된 사실, 현실 세계의 판단, 책임감, 또는 명시되지 않은 문맥에 대한 정밀한 이해가 필요한 작업에서는 신뢰도가 떨어집니다.

유용한 사고 모델 (mental model)

AI를 강력한 패턴 엔진 (pattern engine)이라고 생각하십시오.

AI는 인간이 하기 어려운 규모로 패턴을 인식하고 결합할 수 있습니다. 하지만 그렇다고 해서 인간의 목표, 판단, 그리고 검증의 필요성이 사라지는 것은 아닙니다.

가장 생산적인 질문은 "AI가 모든 것을 대체할 것인가?"가 아닙니다. 그것은 바로:

이 작업의 어떤 부분이 패턴을 인식하는 것에 관한 것이며, 어떤 부분이 책임과 판단을 필요로 하는 것인가요?

그러한 구분은 우리가 AI를 더 효과적이고, 더 안전하게 사용하는 데 도움을 줍니다.