UX/UI Article
Where AI is failing design systems, and where we are failing AI
AI가 디자인 시스템에 실패하는 부분 과 우리가 AI 에 실패하는 부분
For a design system program where the goal is often stable, high quality, durable output, how much instability, lack of quality, or impermanence can
안정적이고 고품질이며 내구성 있는 결과물을 목표로 하는 디자인 시스템 프로그램의 경우, 도구에서 얼마나 불안정성, 품질 저하, 또는 일시적인 오류를 용납할 수 있을까요? 네이선 커티스와 저는 The Question 60회 에피소드에서 디자인 시스템 커뮤니티에 이 질문을 던졌습니다 .
요약 :)
AI는 디자인 시스템에 도움을 줄 수 있는 유용한 도구이지만, 결정론적 품질과 신뢰성을 요구하는 디자인 시스템의 본질과는 근본적인 긴장 관계를 가진다. 특히 ‘수렴’ 작업—픽셀 단위 정확성, 코드 재현성, 디자인 시스템 충실도—에서는 AI의 확률적 출력이 품질 저하와 신뢰도 하락으로 이어질 수 있다. 반면, ‘발산’ 영역—브레인스토밍, 요약, 리서치—에서는 효율을 높이는 훌륭한 협력자가 될 수 있다.
디자인 시스템에서 AI를 효과적으로 활용하려면, AI가 실패하기 쉬운 영역에서는 실험을 제한하고, 신뢰성과 재현성을 요구하는 영역에서는 명확한 계약 조건, 테스트, 컨텍스트 설계 등을 통해 엄격하게 관리해야 한다. AI는 지금으로선 ‘공장’이 아닌 ‘스캐폴딩(비계)’과 같은 존재이며, 성공적인 통합을 위해서는 여전히 인간의 맥락 설계, 검증, 설명 요구 등의 섬세한 조율이 필요하다.
디자인 시스템에서 AI를 효과적으로 활용하려면, AI가 실패하기 쉬운 영역에서는 실험을 제한하고, 신뢰성과 재현성을 요구하는 영역에서는 명확한 계약 조건, 테스트, 컨텍스트 설계 등을 통해 엄격하게 관리해야 한다. AI는 지금으로선 ‘공장’이 아닌 ‘스캐폴딩(비계)’과 같은 존재이며, 성공적인 통합을 위해서는 여전히 인간의 맥락 설계, 검증, 설명 요구 등의 섬세한 조율이 필요하다.
더보기→
출처.
bencallahan. (2025.08.25). bencallahan. Where AI is failing design systems, and where we are failing AI. 2025.09.09. https://bencallahan.com/where-ai-is-failing-design-systems