최근 몇 년 사이 인공지능(AI)은 산업의 도구를 넘어 사회의 구조를 바꾸는 힘으로 등장했다. 전쟁에서는 자율 드론이 인간의 판단을 대신하고, 기업에서는 알고리즘이 투자와 생산을 결정한다. 이제 AI는 더 이상 보조 기술이 아니라, 인간의 의사결정을 대체하는 ‘체계’로 진입하고 있다.

그러나 이 거대한 전환 속에서 우리는 중요한 질문을 놓치고 있다. AI가 얼마나 빠르게 발전하는가가 아니라, '그 AI가 누구를 위해 작동하는가?'라는 질문이다. 지금의 AI는 소수의 빅테크 기업과 국가 권력에 집중되어 있다. 데이터와 연산 능력, 알고리즘이 결합된 이 구조는 과거 산업혁명기의 자본 집중보다 훨씬 강력한 권력 구조를 형성하고 있다.

 

문제는 이 권력 구조에 대한 사회적 통제 장치가 아직 충분히 마련되지 않았다는 점이다. AI는 기술이 아니라 권력이다. 그리고 권력은 언제나 책임의 문제를 동반한다.

 

 

AI 시대에 ESG 역할 가능한가 ?

 

이 지점에서 ESG의 의미를 다시 묻지 않을 수 없다. 그동안 ESG는 기업의 책임을 평가하고 보고하는 체계로 발전해 왔다. 환경(E), 사회(S), 거버넌스(G)를 기준으로, 기업 활동을 점검하고 공시하는 것이 중심이었다. 그러나 AI 시대에 ESG는 더 이상 ‘평가의 언어’에 머물 수 없다.

 

AI는 데이터를 실시간으로 수집하고, 분석하며, 의사결정을 자동화한다. 이는 ESG를 단순한 보고서가 아니라 실행 가능한 시스템으로 전환시킬 수 있는 조건을 만들어 준다. 예를 들어, 탄소배출은 더 이상 사후적으로 계산되는 수치가 아니라, AI를 통해 실시간으로 측정되고 최적화될 수 있다.

 

공급망의 인권 문제 역시 사후 감사가 아니라, 데이터 기반으로 사전에 탐지될 수 있다. 거버넌스 역시 형식적인 이사회 구조를 넘어, 데이터 투명성과 알고리즘의 책임성으로 재정의될 수 있다. 이러한 변화는 분명 ESG의 새로운 가능성이지만, 그 실현 가능성과 작동 가능성은 매우 낮다고 평가된다.

 

 

AI는 ESG의 기회이자 리스크다

 

AI는 ESG를 강화하는 가장 강력한 도구이지만, 동시에 ESG를 붕괴시킬 수 있는 구조적 위험을 내포하고 있다.

 

첫째, 환경 측면에서 AI는 역설을 안고 있다. AI는 에너지 효율을 높이고 탄소배출을 줄일 수 있는 기술이지만, 동시에 초대형 데이터센터의 전력 소비를 폭증시키고 있다. AI를 유지하기 위한 전력 수요는 이미 하나의 산업을 형성할 정도로 확대되고 있다.

 

둘째, 사회 측면에서는 노동의 문제가 발생한다. AI는 생산성을 높이지만, 동시에 인간의 노동을 대체한다. 이 과정에서 발생하는 고용 불안과 소득 격차는 단순한 경제 문제가 아니라 사회적 갈등으로 확산될 가능성이 높다.

 

셋째, 거버넌스 측면에서는 더욱 근본적인 문제가 제기된다. 알고리즘은 의사결정을 수행하지만, 그 판단 과정은 투명하지 않다. 책임의 주체도 불분명하다. AI가 내린 결정에 대해 누구에게 책임을 물어야 하는가라는 질문은 여전히 답을 찾지 못하고 있다.

 

 

극단적인 중앙집중화 현상

현재 AI 산업의 구조를 보면 하나의 공통된 특징이 드러난다. 그것은 극단적인 중앙집중화이다. 초대형 데이터, 초대형 연산 인프라, 초대형 플랫폼이 결합된 구조는 소수 기업에게 압도적인 지배력을 부여한다. 이는 과거 에너지 산업에서 중앙집중형 발전 시스템이 만들어낸 구조와 매우 유사하다.

 

에너지의 중앙집중은 결국 시민의 배제를 낳았고, 지역 간 격차를 확대시켰다. AI 역시 같은 길을 걷고 있다. 데이터와 기술을 가진 주체는 더욱 강력해지고, 그렇지 못한 주체는 종속되는 구조가 형성되고 있다. 이러한 구조를 방치한다면 AI는 효율을 높이는 기술이 아니라, 불평등을 고착화하는 시스템으로 작동할 것이다.

 

 

ESG의 새로운 과제

 

이제 ESG는 새로운 과제를 마주하고 있다. 그것은 단순한 기업 책임을 넘어, AI의 구조를 어떻게 설계할 것인가라는 문제이다.

첫째, AI는 분산되어야 한다. 지역과 기업, 개인이 참여할 수 있는 분산형 AI 구조가 필요하다. 이는 에너지 전환에서 분산형 전원이 가지는 의미와 동일하다.

둘째, 데이터는 공공적 자산으로 관리되어야 한다. 데이터는 새로운 자본이며, 이를 소수에게 독점시키는 구조는 지속가능하지 않다. 데이터 주권과 공유 체계가 마련되어야 한다.

셋째, 알고리즘의 책임성이 확보되어야 한다. AI의 의사결정 과정은 투명해야 하며, 그 결과에 대한 책임 구조가 명확히 설정되어야 한다.

넷째, AI로 인한 사회적 전환에 대응하는 새로운 사회계약이 필요하다. 노동, 교육, 소득 구조에 대한 재설계 없이는 AI 시대의 지속가능성은 확보될 수 없다.

 

 

AI 민주주의는 가능한가 ?

 

AI 시대에 ESG의 의미는 분명해지고 있다. 그것은 기업의 책임을 평가하는 기준이 아니라, 기술 권력을 통제하고, AI 발전의 성과물을 사회적으로 공유하고 함께 발전하도록 하는 사회적 장치로서의 의미다.

 

ESG가 선언적 가치와 형식적 보고에 머문다면, AI는 검증되고 통제되지 않은 채 급속도로 확장될 것이다. 반대로 ESG가 데이터와 알고리즘, 에너지와 사회 구조를 포괄하는 체계로 진화한다면, AI는 인간의 삶을 개선하는 방향으로 작동할 수도 있다. 결국 문제는 기술이 아니다. 기술을 어떻게 설계하고, 어떻게 통제하면서 공유할 것인가의 문제이다.

 

AI는 스스로 윤리를 갖지 않는다. 그것은 인간이 부여한 기준을 따른다. 그래서 지금 우리에게 필요한 것은 더 빠른 기술이 아니라, 더 깊은 ‘책임’이다.

 

과연 우리는 AI를 통해 지속가능한 사회를 만들 수 있을 것인가 ? 아니면, AI에 의해 지속가능성이 붕괴되고 파멸의 길로 접어 들 것인가 ? 그 기로에 우리는 지금 서 있다.

 

황상규 칼럼니스트
ESG평가연구소장,  ISO26000한국전문가포럼 공동대표, 전 환경운동연합 사무처장, 독일 프랑크푸르트(괴테)대학 환경윤리학 박사 수료, , ‘사회책임의 시대‘(2013) 저자