FluidCloud의 CTO인 Harshit Omar는 제가 들어본 답변 중 가장 날카로운 답변을 해주었습니다.

FluidCloud는 멀티 클라우드 마이그레이션 (multi-cloud migration)을 더 쉽게 만듭니다. 어려운 점은 도구가 아닙니다. 모든 클라우드가 세상을 약간씩 다르게 모델링한다는 점이며, "동등해 보인다"와 "동등하다" 사이의 간극에서 마이그레이션이 조용히 실패하곤 합니다.

그들은 AI를 사용하여 복잡한 인프라를 읽고 한 클라우드의 개념을 다른 클라우드에 매핑 (mapping)합니다. 적절한 접근입니다. 모델들은 그 모호한 중간 영역에서 강력한 성능을 발휘합니다.

그 후 Harshit은 그들이 구축했던 4개월간의 AI 기반 매핑 (mapping) 작업에 대해 이야기했습니다. 그들은 그 작업이 그럴듯하지만 틀린 결과물을 내놓는 것을 지켜보았고, 결국 삭제했습니다. 그리고 더 어려운 방식인 수작업으로 다시 구축했습니다.

그의 논리는 제가 계속 생각하게 만드는 부분이며, 대부분의 팀이 프로덕션 (production) 환경에서 AI를 논하는 방식을 뒤집어 놓습니다.

(FluidCloud는 Unusual Ventures 등을 통해 800만 달러의 시드 투자를 유치했으며, 이는 이 문제가 얼마나 실질적인지를 말해줍니다.)

저는 왜 그가 매번 정확해야만 하는 레이어에서 AI를 제거했는지에 대한 정확한 이유를 포함하여 전체 대화 내용을 작성했습니다.

만약 여러분이 이 분야에서 작업하고 있다면, AI 레이어와 결정론적 (deterministic) 레이어 사이에 어디에 선을 그으셨나요?

클라우드 마이그레이션에서 LLM이 위치해야 할 곳 — FluidCloud의 결정론적 경계 | goBIGai

왜 FluidCloud가 LLM 기반 매핑을 삭제하고 결정론적 규칙 (deterministic rules)을 위해 멀티 클라우드 마이그레이션 엔진을 AI 없이 다시 구축했는지에 대한 이야기입니다. 인프라에서 LLM이 어디에 위치해야 하는지에 대한 가이드입니다.

favicon gobigai.org