Figma의 새로운 도구인 Make Designs는 생성형 AI (Generative AI)를 사용하여 사용자가 앱의 목업 (Mock up)을 빠르게 만들 수 있게 해줍니다. 하지만 이 도구가 Apple의 iOS 날씨 앱과 놀라울 정도로 유사한 디자인을 초안으로 작성하면서 현재는 철수된 상태입니다. Figma의 CEO Dylan Field는 화요일 이른 아침 X에 스레드를 게시하여 해당 도구의 제거에 대한 세부 사항을 설명하며, 팀이 마감 기한을 맞추도록 압박한 것에 대해 자신에게 책임을 돌리는 한편, 회사의 AI 도구 개발 방식에 대해서는 방어적인 입장을 취했습니다.

Figma, Apple 디자인을 도용했다는 비판 속에 AI 도구 철수

Figma는 사용된 생성형 AI (Generative AI) 모델을 직접 학습시키지 않았다고 밝히며, '맞춤형 디자인 시스템 (Bespoke design system)'을 원인으로 지목했습니다.

Figma는 사용된 생성형 AI (Generative AI) 모델을 직접 학습시키지 않았다고 밝히며, '맞춤형 디자인 시스템 (Bespoke design system)'을 원인으로 지목했습니다.

Not Boring Software의 CEO인 Andy Allen은 X에 올린 게시물을 통해 Figma의 Make Designs 도구가 Apple의 날씨 앱을 얼마나 거의 복제한 수준으로 만들어냈는지 보여주었습니다. Allen은 "새로운 Make Designs 기능을 사용하는 디자이너분들께 주의를 드립니다. 자신도 모르게 법적 문제에 휘말리지 않도록 기존 앱들을 철저히 확인하거나 결과물을 대폭 수정해야 할 수도 있습니다"라고 적었습니다.

화요일 Figma의 CTO Kris Rasmussen과의 인터뷰에서, 저는 Make Designs가 Apple의 앱 디자인을 학습했는지 직설적으로 물었습니다. 그의 대답은 무엇이었을까요? 확실히 말할 수 없다는 것이었습니다. Figma는 사용된 AI 모델을 학습시키는 데 전혀 책임이 없었습니다.

"우리는 생성형 AI (Generative AI) 기능의 일부로서 어떠한 학습도 수행하지 않았습니다"라고 Rasmussen은 말했습니다. 해당 기능들은 "기성 모델 (Off-the-shelf models)과 우리가 의뢰한 맞춤형 디자인 시스템 (Bespoke design system)에 의해 구동되며, 이것이 근본적인 문제인 것으로 보입니다"라고 덧붙였습니다.

이는 Make Designs가 기존 앱들을 학습했다는 한 사용자의 제안에 대해 그가 월요일 X(구 트위터)에서 언급한 내용과 대체로 일치합니다. 그는 “지난주 Figma AI를 출시할 때 공유했듯이, 이 기능이나 당사의 어떤 생성형 기능(Generative features)의 일부로도 학습은 이루어지지 않았습니다”라고 적었습니다. 또한 “유사성이 우리가 사용하는 제3자 모델(Third party models)의 기능인지, 아니면 모델이 사용하도록 우리가 의뢰한 디자인 시스템(Design systems)의 기능인지 그 범위를 조사하고 있으며, 필요에 따라 조치를 취할 것입니다”라고 덧붙였습니다.

Field는 자신의 스레드에서 Make Designs 기능은 “Figma 콘텐츠, 커뮤니티 파일 또는 앱 디자인을 학습하지 않았다”라고 말하며, “이 트윗에서 제기된 데이터 학습에 관한 비난은 사실이 아니다”라고 언급했습니다. 그는 회사의 접근 방식에 있어 발생하는 문제로 “가변성(Variability)이 너무 낮다”는 점을 지적했습니다.

Rasmussen에 따르면, Make Designs를 구동하는 핵심 AI 모델은 OpenAI의 GPT-4o와 Amazon의 Titan Image Generator G1입니다. 만약 Figma가 AI 도구를 학습시키지 않았음에도 불구하고 결과물이 Apple 앱과 유사하게 나오고 있다면, 이는 OpenAI나 Amazon의 모델이 Apple의 디자인을 학습했을 가능성을 시사합니다. OpenAI와 Amazon은 논평 요청에 즉각 응답하지 않았습니다.

Rasmussen는 Figma가 지난주에 도입한 AI 학습 정책(AI training policies)에 대해 사용자들에게 투명하게 공개하기 전까지는 기능을 개선하기 위한 어떠한 학습도 수행하고 싶어 하지 않았다고 주장했습니다. 해당 정책의 일환으로, 사용자들은 8월 15일까지 자신의 콘텐츠를 Figma의 학습에 사용하는 것에 동의(Opt in)할지 또는 거부(Opt out)할지를 결정할 수 있습니다. (Starter 및 Professional 플랜은 기본적으로 동의 상태이며, Organization 및 Enterprise 플랜은 기본적으로 거부 상태입니다.)

저는 Figma가 자체 모델을 학습시킬 계획이 있는지 물었습니다. 회사의 새로운 AI 학습 정책을 고려할 때, 이는 실제로 일어날 일로 보입니다. Rasmussen은 “우리는 이러한 모델들에게 Figma의 맥락 안에서 디자인하는 법을 가르침으로써, 여러분의 디자인 워크플로우를 진정으로 완벽하게 만들 기회를 분명히 보고 있습니다”라고 말했습니다. 하지만 그는 “우리의 자체 모델이나 오픈 소스 모델(open source models)을 통해 수행하는 모든 미세 조정(fine-tuning)이 일반적인 디자인 패턴과 특정 Figma 디자인 개념만을 학습하도록 조치를 취할 것이며, 이를 통해 전문 디자이너들에게 더 나은 도구가 될 수 있도록 할 것입니다”라고 덧붙였습니다.

또한 저는 Rasmussen에게 Figma가 향후 잠재적인 문제를 포착하기 위해 프로세스를 어떻게 개선할 계획인지 물었습니다. 그는 “우리는 맞춤형 디자인 시스템(bespoke design system)을 검토하여 충분한 변형(variation)을 갖추고 있는지, 그리고 우리의 품질 표준을 충족하는지 확인하고 있습니다”라고 말했습니다. “그것이 문제의 근본 원인입니다. 하지만 [Make Designs] 기능을 다시 활성화하기 전에, 전체 기능이 우리의 품질 표준을 충족하고 우리의 가치와 일치하는지 확인하기 위해 추가적인 예방 조치를 취할 것입니다.”

Rasmussen은 또한 Make Designs가 베타(beta) 단계라는 점을 지적했습니다. “베타는 정의상 완벽하지 않습니다. 하지만 Dylan이 트윗에서 공유했듯이, 우리가 단순히 이 특정 문제를 포착하지 못했다고 말하는 것이 맞을 것입니다. 그리고 우리는 포착했어야만 했습니다.”

Figma는 창작 도구에 AI를 도입하는 방식에 대해 조사를 받게 된 가장 최근의 기업입니다. Adobe는 서비스 약관 변경에 대한 반발 이후, 사용자의 작업물을 AI 학습에 사용하지 않을 것임을 명확히 해야 했습니다. 그리고 Meta는 기존의 레이블이 실제 사진에 잘못 적용되었다는 사진작가들의 불만 제기 이후 AI 레이블을 변경해야 했습니다.

이 기사의 주제와 저자를 팔로우하여 개인화된 홈페이지 피드에서 이와 유사한 내용을 더 확인하고 이메일 업데이트를 받으세요.