인터뷰에서 자주 나오는 20가지 AI 문제:

인터뷰에서 자주 나오는 20가지 AI 문제:

1/ 회사 문서를 위한 RAG 시스템 설계하기
2/ 프로덕션 환경에서 환각(hallucinations)을 어떻게 방지할 것인가?
3/ 언제 파인튜닝(fine-tune)과 프롬프트(prompt)와 RAG 중 무엇을 사용할 것인가?
4/ AI 고객 지원 에이전트 설계하기
5/ LLM 앱은 어떻게 평가하는가?
6/ 마치 당신을 채용하는 사람에게 설명하듯이 임베딩(embeddings) 설명하기
7/ 추론 비용(inference cost)을 10배 절감하는 방법은?
8/ 영원히 루프에 빠지지 않는 다중 에이전트 시스템 설계하기
9/ 사용자 문서로부터의 프롬프트 인젝션(prompt injection)을 어떻게 처리할 것인가?
10/ 시맨틱 캐시(semantic cache) 구축하기. 언제 실패하는가?
11/ RAG를 위한 청크 크기(chunk size)는 어떻게 선택하는가?
12/ 모든 LLM 호출에 대한 관측 가능성(observability) 설계하기
13/ 두 모델을 안전하게 A/B 테스트하는 방법은?
14/ 모델 제공업체가 다운되었을 때의 폴백(fallback) 전략은 무엇인가?
15/ 장기간 실행되는 개인 에이전트를 위한 메모리 설계하기
16/ 최종 텍스트뿐만 아니라 도구 호출(tool-calling)도 어떻게 평가하는가?
17/ 에이전트를 위한 속도 제한(Rate-limit), 재시도(retry), 타임아웃 전략
18/ 컨텍스트 창(context window)에서 PII를 어떻게 제거할 것인가?
19/ 실제 레포지토리(repo)를 편집할 수 있는 코딩 에이전트 설계하기
20/ 처음부터 끝까지 배포한 AI 시스템을 설명해 주세요.

그들은 당신이 'ChatGPT를 안다'는 것에 관심이 없습니다.
그들이 신경 쓰는 것은 당신이 안전하게 무언가를 구축하고, 측정하고, 파괴할 수 있는지 여부입니다.

이 글을 북마크하세요.