WHEN DISCOURSE STALLS: MOVING PAST FIVE SEMANTIC STOPSIGNS ABOUT GENERATIVE AI IN DESIGN RESEARCH

1. "AI는 믿을 수 없어"는 옛말, 건축가들은 이미 AI로 미래 건물을 설계 중이다

미드저니(Midjourney)와 DALL-E로 그림을 그리고, 챗GPT로 글을 쓰는 시대에 살고 있지만, 우리는 생성형 AI에 대해 너무 단순하게 이야기하고 있다. "AI가 일자리를 빼앗는다", "AI는 환경을 해친다", "AI는 불신할 수 없다"와 같은 말들이 더 깊은 대화를 막고 있다. 이에 한 국제 연구팀이 이런 단순한 관점을 '의미론적 정지 신호'라 부르며 분석한 논문을 발표했다.

실제로 자하 하디드 건축사무소(Zaha Hadid Architects)의 수석 건축가 파트릭 슈마허(Patrik Schumacher)는 "현재 우리 프로젝트의 대부분은 AI 이미지를 사용해 개발되고 있다"고 밝혔다. 이렇게 최첨단 디자인 분야에서는 이미 AI가 핵심 도구가 되었지만, 여전히 많은 사람들은 생성형 AI에 대해 "신뢰할 수 없다"라는 낙인을 찍고 더 탐구하지 않는다.

2. 할리우드 영화 제작자들이 AI와 맺은 계약이 말해주는 '최저 수준으로의 경쟁' 현실

영화 제작사 라이온스게이트(Lionsgate)는 최근 AI 스타트업 런웨이(Runway)와 파트너십을 맺어 자사의 영화 카탈로그를 AI 훈련에 사용할 수 있도록 허가했다. 이는 비용 절감을 위해 AI를 도입하는 산업 압력의 현실을 보여준다. 한 스튜디오의 예를 상상해보자. 경쟁사들이 AI 생성 콘텐츠로 프로젝트를 저가에 입찰하는 것을 보며, 주요 고객이 떠나겠다고 위협하자 경영진은 노동자들의 명시적 경고에도 불구하고 자동화 도구를 급하게 도입한다. 곧 스튜디오는 AI 기반 대안과 경쟁하기 위해 비용을 절감하는 하향 나선에 빠지게 된다.

2023년 할리우드 작가 및 배우 조합 파업의 중심에는 생성형 AI가 있었다. 흥미로운 점은 영화 제작이 항상 발전하는 기술에 의존해왔기 때문에 노동자들이 AI 자체를 반대한 것이 아니라, 비용 절감 수단으로서의 착취적 잠재성에 반대했다는 것이다. 이는 중요한 통찰력을 제공한다. 부정적인 결과를 초래하는 것은 기술 자체가 아니라 그 배치를 형성하는 관리 구조와 경제적 인센티브다.

3. "AI로 그린 그림은 모두 표절이다"라는 주장이 놓치고 있는 창작과 영감의 복잡한 관계

생성형 AI에 관한 또 다른 단순화된 주장은 "모든 생성형 AI는 지적 재산권을 침해한다"는 것이다. 이 정지 신호는 훈련 데이터가 모델 기능과 분리할 수 없는 상황에서 공감을 얻는다. 예를 들어, 한 예술가가 자신의 작품을 블로그에 공유했고 이것이 나중에 모델의 훈련 세트의 일부가 되었다면, 명시적 동의 없이 그 예술가 작품의 요소가 모델 기능과 분리할 수 없게 된다.

이런 복잡성은 영감, 반복, 귀속에 관한 디자인 분야의 오랜 논의를 반영한다. 옹호자들은 공개적으로 이용 가능한 데이터에 대한 훈련이 공정 사용(fair use)에 해당한다고 주장하는 반면, 비평가들은 데이터가 그대로 복사되지 않더라도 결과 모델이 복사본이 할 수 있는 것과 같은 효과를 내는 출력물을 생산한다고 반박한다.

4. 스테이블 디퓨전으로 우리의 창의성이 획일화되고 있다는 충격적 증거

"AI는 단지 도구일 뿐이다"라는 프레임은 자동화와 창의적 자율성에 대한 불안 속에서 안심을 제공한다. 한 디자인 스튜디오 사례를 보자. 생성형 AI를 신속한 아이디어 구상을 위해 도입한 후, 디렉터는 "포토샵에서 피그마로 전환하는 것과 같은 또 다른 도구일 뿐"이라며 우려를 일축했다. 그러나 몇 달 후, 팀의 컨셉트는 점점 알고리즘적 트렌드를 반영하게 되었고, 한때 독특했던 스타일이 미드저니의 광택 있고 초세부적인 미학에 편향된 경향으로 희석되었다.

AI 도구가 디자인 실무를 단순히 지원하는 것이 아니라 실제로 형성한다는 이 예는 충격적이다. 연구에 따르면 스테이블 디퓨전과 같은 도구는 특정 미학적 경향에 특권을 부여함으로써 디자인 고착(design fixation)을 극복하는 데 오히려 사용될 수 있다는 것이 밝혀졌다. 예를 들어, 지속가능성에 초점을 맞춘 회사는 친환경 건축물에 대한 확산 모델을 훈련시켜 의도적으로 자신들의 "창의적 DNA"를 형성할 수 있다.

5. AI 모델이 소비하는 에너지량은 햄버거로 환산할 수 있다? 친환경 디자인의 새로운 도전

"AI는 환경에 해롭다"라는 비판은 양방향으로 작용하는 의미론적 정지 신호다. 한쪽에서는 멸종 위기 종을 모니터링하는 AI 모델을 개발하는 연구 그룹이 컴퓨팅 자원 요구사항에 대한 질문을 받았을 때 "AI의 탄소 발자국은 우리가 방지하고 있는 종 멸종에 비하면 중요하지 않다"고 일축했다. 반면 디자인 컨퍼런스 워크숍에서는 참가자들이 지속 가능한 디자인 프로젝트에 생성형 AI 도구를 사용하자는 제안을 "AI 사용은 본질적으로 환경 목표에 모순된다"며 거부했다.

루페티(Lupetti) 등의 연구자들은 지속 가능성 영향을 "전구 사용 시간"이나 "햄버거 소비" 같은 실감나는 지표로 변환해 디자인 결정의 지속 가능성 영향을 비전문가 청중에게 더 접근하기 쉽게 만들 것을 제안한다. 이는 영향을 탈맥락화하지 않고 체계적이고 성찰적인 접근법을 보완할 수 있는 도구를 제공하는 것을 목표로 한다.

비판적 낙관주의: AI와 함께 일하는 디자이너를 위한 실용적 3단계 접근법

이 연구는 생성형 AI에 대한 논의에서 '비판적 낙관주의(critical optimism)'를 지향한다. 이는 기술에 대한 무비판적 수용이나 전면적 거부 대신, 직접적인 경험을 통한 사려 깊은 참여를 장려하는 접근법이다. 연구팀은 디자인 연구자와 실무자들이 의미론적 정지 신호를 넘어서기 위한 3단계 전략을 제시한다.

첫째, 다양한 이해관계자를 포함하는 것이 중요하다. 한 사례에서 연구자들은 박물관에 'AI 예술' 전시회를 통합하는 프로젝트를 진행했는데, 디지털 기술 전문가와 박물관 방문객만을 대상으로 사용자 연구를 수행했다. 연구팀이 비디지털 전문가와 예술가가 제외된 이유를 물었을 때, 저자들은 그런 참가자들이 AI 사용에 저항할 것으로 예상했기 때문이라고 답했다. 혁신적 프로젝트를 중단하는 대신, 정지 신호를 넘어서는 안정적인 방법은 AI 사용에 반대할 가능성이 높은 참가자들(소외된 예술가, 예술 비평가, AI 회의론자 등)도 참여시키는 것이다.

둘째, 도전과제를 디자인 기회로 재구성하는 전략이 있다. 샤흐리아르 나샤트의 '역방향 로르샤흐'는 생체 측정 데이터를 진화하는 잉크 얼룩 같은 시각 자료로 변환하여 AI의 예측 불가능성을 예술가, 기술, 관객 간의 대화로 전환한다. 이러한 예는 생성 시스템의 '환각'이 사려 깊은 AI 통합을 촉진하며 혁신적이고 윤리적인 목표에 부합할 수 있음을 보여준다.

셋째, 통합 사례를 문서화하고 공유하는 것이 중요하다. 안트로픽의 다리오 아모데이에 따르면, 조직이 책임 있는 AI 개발을 위한 더 나은 관행을 문서화하고 공유할 때 '최상위로의 경쟁'이 생성된다. 이는 책임 있는 관행에서의 혁신이 다른 이들이 채택할 수 있는 경쟁적 이점이 되어 궁극적으로a전체 분야의 표준을 높이는 데 기여한다.

이러한 세 가지 전략을 통해 연구자들은 생성형 AI의 잠재력을 최대화하면서도 그 한계와 위험을 인식하고 대응하는 비판적 낙관주의 접근법을 발전시킬 수 있다. 이를 통해 기술에 대한 더 균형 잡힌 관점과 보다 책임감 있고 포용적인 AI 통합 방식을 모색할 수 있을 것이다.

FAQ

Q: 논문에서 말하는 '의미론적 정지 신호'란 정확히 무엇인가요?

A: 의미론적 정지 신호는 복잡한 문제를 과도하게 단순화하여 더 깊은 탐구를 방해하는 개념적 틀입니다. 생성형 AI 맥락에서는 "AI는 신뢰할 수 없다" 또는 "모든 AI는 지적 재산권을 침해한다"와 같은 단순화된 진술이 더 복잡하고 유용한 논의를 차단하는 경우를 말합니다.

Q: AI가 디자인을 '획일화'한다는 주장은 어떤 증거가 있나요?

A: 연구에 따르면 디자인 스튜디오가 생성형 AI를 도입한 후, 팀의 작업물이 점차 미드저니와 같은 AI 도구의 특징적인 미학(광택 있고 초세부적인 스타일)을 반영하게 되었습니다. 이는 AI 모델이 훈련 데이터의 지배적인 패턴을 학습하고 그것을 출력물에 반영하기 때문입니다. 그러나 연구자들은 이런 획일화 경향을 오히려 디자인 고착을 극복하는 도구로 활용할 수 있다고 제안합니다.

Q: 생성형 AI를 윤리적으로 사용하기 위한 실용적인 조언은 무엇인가요?

A: 연구팀이 제안하는 주요 접근법은 1) 다양한 관점(특히 비판적 관점)을 가진 이해관계자를 포함시키기, 2) 환경 영향이나 창의적 자율성과 같은 문제를 디자인 기회로 재구성하기, 3) 성공 및 실패 사례를 문서화하고 공유하여 집단적 학습을 촉진하는 것입니다. 이런 '비판적 낙관주의' 접근법은 AI의 무비판적 수용이나 전면적 거부 대신 직접적인 경험을 통한 사려 깊은 참여를 장려합니다.

해당 기사에서 인용한 논문 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗GPT를 활용해 작성되었습니다.