인공지능에 관한 대화가 주로 기술적 진보와 인간 대체의 관점에서 이루어지는 요즘, 우리는 중요한 질문을 놓치고 있는지도 모릅니다. "어떻게" AI를 발전시킬 것인가에만 집중하며 "왜" 우리가 AI를 개발하는지에 대한 근본적인 질문은 충분히 다루어지지 않고 있기 때문이죠. 이러한 기술 발전의 목적에 대한 비판적 성찰의 부재는 AI 커뮤니티를 취약하게 만들 수 있습니다. AI의 새로운 패러다임, 특히 '정의로운 AI'(AI for Just Work)라는 개념에 대한 연구를 통해 기술이 인간과 지구에 어떻게 진정으로 도움이 될 수 있는지 한 번 살펴보시죠.
AI 상상력의 현재: 단일문화에서 다양성으로
AI 커뮤니티에서는 지금까지 주로 인간을 대체하고 생산성을 향상시키는 데 초점을 맞추는 단일 상상력이 지배적이었습니다. 최근 2,778명의 AI 연구자들을 대상으로 한 대규모 설문조사에서도 이러한 경향이 확인되었는데요. 이렇게 단일한 상상력에 갇히면 다양한 가치와 관점을 반영하기 어렵습니다. 특히 정의, 민주주의, 지속 가능성과 같은 윤리적 가치들은 종종 이차적인 우선순위로 밀려나고, 문제가 발생한 후에야 고려되는 경향이 있었습니다.
단일 문화적 AI 상상력의 문제점은 무엇일까요? 당연히 다양한 비전과 가치를 억압하고, 다른 상상력을 가진 사람들이 환영받지 못하게 만들 것입니다. 그 결과 AI 커뮤니티에서 다양성과 포용성이 부족해지는 원인이 되기도 할 것이고요. 이제는 AI에 대한 우리의 집단적 상상력을 다양화하고, 윤리적 가치와 AI 개발을 시너지화해야 할 때인데 시대 역행적인 대안이 나올 수도 있게 되는 것입니다.
"AI가 발전하면 인간 지능을 넘어서고, 기후 변화나 불평등 같은 과학적, 사회적 문제를 해결할 수 있을 것이다."라는 낙관적 전망이 있지만 이런 전망은 모델이 실제 세계를 대체할 수 있다는 잘못된 가정에 기반하고 있습니다. 실제로 AI 모델은 인간 경험과 자연 자원에 근본적으로 의존하고 있음을 간과해서는 안 되기 때문입니다.
주류 AI 상상력의 윤리적 문제점 분석
현재 AI 개발의 주류 상상력에는 몇 가지 핵심 가정이 있는데요, 그중 첫 번째는 AI가 전지전능해질 수 있다는 믿음입니다. 그러나 이는 모델을 실제와 혼동하고, AI가 인간 경험과 자연에 대한 근본적인 의존성을 무시하는 것입니다. 이러한 관점은 인간 경험의 풍부함을 제한하고 살아있는 세계를 빈곤하게 만드는 '맹점 세계관'(Blind Spot worldview)의 일부라고 할 수 있어요.
두 번째 가정은 AI가 인간을 대체하면 인간을 노동에서 해방시킬 수 있다는 생각입니다. 이는 AI가 노동에 근본적으로 의존한다는 사실을 간과하고, 노동자와 그들의 일을 평가절하합니다. 역사적으로 노동 대체는 종종 노동자의 권리와 권한을 약화시켰죠. 단순히 자동화된 기계가 인간을 대체한다는 것은 노동의 본질을 풍요롭게 하기보다는 기계의 한계에 맞춰 세계를 재구성하게 만듭니다.
마지막으로, AI가 생산성을 높이고 번영을 가져올 것이라는 가정이 있습니다. 그러나 경제학 연구에 따르면, 기술 진보가 자동으로 모든 사람에게 혜택을 주지는 않음을 알 수 있습니다. 실제로 기술이 어떻게 발전하는지와 노동 투쟁, 협상의 결과에 따라 달라지게 되는 것이죠. 로봇이나 자동화에 노출된 미국과 독일의 경험적 증거로 비추어볼 때, 오히려 노동 소득 비중이 감소하고 불평등이 악화되었음을 보여줍니다.
정의로운 AI를 위한 새로운 상상력 구축하기
AI에 대한 새로운 상상력은 어떻게 구축할 수 있을까요? 연구에서 제안하는 '정의로운 AI'는 세 가지 기본 가정에서 출발합니다.
첫째, AI 모델은 복잡한 현상을 완전히 표현할 수 없으며, 인간 경험과 물질 세계에 의존합니다. 이는 AI가 신의 관점에서 볼 수 없으며, 언제나 인간의 경험을 통해 세계와 상호작용한다는 철학에 기반합니다.
둘째, 노동자와 그들의 일은 평가절하되거나 격하되지 않아야 합니다. 이는 나이, 성별, 인종, 교육 수준 등에 관계없이 모든 노동자를 존중해야 함을 의미합니다. 또한 일의 개념을 넓혀 '풍요로운 삶을 위한 사회적 수단'으로서의 의미를 회복해야 합니다.
셋째, 성장, 생산성, 효율성보다 일과 다른 필수적인 인간, 과학, 사회, 환경적 가치를 우선시해야 합니다. 단순히 생산성과 효율성을 추구하는 것은 자동으로 공유된 번영으로 이어지지 않으며, 종종 강력한 이들의 이익을 위해 왜곡될 수 있습니다.
이러한 가정에서 우리는 다음과 같은 AI 속성을 도출할 수 있습니다:
- AI의 문제 정의, 설계, 평가는 실제 세계 과제와 응용에 기반해야 합니다.
- AI 평가에서 철저한 한계 분석이 기본이 되어야 합니다.
- AI와 데이터 수집은 거부 가능해야 합니다.
- AI 설계는 노동자의 권리와 권한을 향상시키는 방향으로 이루어져야 합니다.
변화를 위한 행동: 다양한 AI 상상력 육성하기
AI에 대한 상상력을 다양화하는 것은 단순한 이론적 논의가 아닌 실질적인 변화를 요구합니다. 이를 위해 AI 커뮤니티는 시민사회와 함께 AI의 '왜'라는 질문에 대한 공개 토론을 시작해야 합니다. 특히 취약하고 소외되었거나 AI에 의해 부정적인 영향을 받은 사람들과의 대화를 간과해서는 안됩니다.
다양한 상상력을 지원하는 것은 단순히 다양한 관점을 허용하는 것 이상을 의미합니다. 여기에는 AI 개발의 윤리적 추구를 위한 다양한 상상력, 가치, 작업을 지원하는 것이 포함됩니다. 이를 통해 공공재로서의 AI 기술 가치를 회복할 수 있게 됩니다. 아울러 이러한 변화에는 누구나 동참을 해야만 합니다. 먼저 AI 기술이 어떻게 사용되고 있는지 비판적으로 생각해 보세요. 직장이나 커뮤니티에서 AI에 대한 대화를 시작하고, 기술이 어떻게 모든 사람의 이익을 위해 더 공정하게 사용될 수 있는지 한 번 질문해 보시기 바랍니다.
결론: 공공의 이익을 위한 AI의 가치 회복
AI의 주류 상상력에 내재된 철학적 한계와 사회적 가정을 비판적으로 검토함으로써, 우리는 기술 발전과 윤리적 가치를 통합하는 새로운 접근 방식을 모색할 수 있게 될 것입니다. '정의로운 AI'는 단순히 인간을 대체하거나 생산성을 높이는 것이 아니라, 노동자의 권한을 강화하고 현실의 문제에 기반한 기술을 개발하는 비전을 제시하려는 시도입니다.
AI 기술의 발전은 불가피하게 진행될 것이지만, 그 방향과 영향은 우리의 집단적 상상력에 달려 있습니다. 다양한 가치와 관점을 포함하는 보다 풍부한 상상력을 육성함으로써, 인간과 지구가 함께 번영할 수 있는 미래를 위한 길을 열 수 있게 될 것이기 때문입니다. 이제 우리는 "AI가 무엇을 할 수 있는가?"라는 질문에서 "AI가 무엇을 하는 것이 정의로운가?"라는 질문으로 전환해야 할 때입니다. 그것이 모두를 위한 더 나은 미래를 구축하는 첫걸음이라고 생각됩니다.
참고문헌
Jin, W., Vincent, N., & Hamarneh, G. (2025). AI for just work: Constructing diverse imaginations of AI beyond "replacing humans"