시민사회를 위한 생성형 AI 가이드

“단체 활동가들이 챗지피티로 성명서를 작성하는데, 어떻게 해야할지 고민이에요”

아마도 많은 단체에서 이러한 고민을 하고 있을 것입니다. 챗지피티, 제미나이 같은 챗봇뿐 아니라, 이미지·음악·영상을 생성하는 다양한 생성형 AI 서비스들이 등장하면서, 점점 더 많은 시민들이 업무와 개인적인 목적으로 이를 사용하고 있습니다. 시민사회 활동가 역시 예외는 아닙니다. 그런데 아직까지는 업무 목적이더라도 개인의 판단에 따라 활용하고 있을 뿐, 조직 차원의 생성형 AI 정책을 갖춘 단체는 거의 없는 상황입니다.

시민사회단체가 생성형 AI를 사용할 때 주의해야 할 점들이 많습니다. 예를 들어, 생성형 AI의 할루시네이션으로 인한 사실이 아닌 내용이 단체의 공식 문서에 포함될 경우 단체의 신뢰가 심각하게 훼손될 수 있습니다. 신뢰할 수 없는 상용 서비스에 개인정보나 기밀정보를 업로드할 경우 보안에 문제가 생길 수 있습니다. 생성형 AI의 결과물이 단체의 가치와 맞지 않는 편향을 포함할 수도 있습니다. 생성형 AI로 성명서를 작성하는 과정에서 활동가의 역량 강화와 단체 내 숙고라는 측면은 배제될 수 있습니다. 조직 차원의 정책없이 활동가 개인의 선택에 따라 AI 도구를 사용할 경우, 조직이 통제할 수 없는 문제가 발생할 가능성이 큽니다.

그러나 시민사회단체가 생성형 AI 서비스를 활용하는 것이 적절한지, 활용할 경우 어떠한 원칙과 정책 하에 활용하는 것이 바람직한지, 인권의 관점에서 참고할 수 있는 지침은 많지 않습니다. 시민사회단체 활동가들이 어떤 업무를 위해 어떤 AI 도구를 사용하고 있는지에 대한 현황도 파악되어 있지 않은 상황입니다. 이 가이드는 시민사회단체와 활동가들이 생성형 AI 정책을 수립하고, 필요할 경우 올바로 활용할 수 있도록 돕기 위한 문제의식에서 출발했습니다.

가이드를 만들기 위해, 실제 어떤 업무에 어떤 AI 도구를 사용하고 있는지, 생성형 AI가 얼마나 유용한지, 사용하면서 경험하는 문제는 무엇인지에 대해 설문조사를 진행했습니다. 국내 활동가들 뿐만 아니라 APC 네트워크를 통해 전 세계 활동가들의 의견도 수렴하였습니다. 응답 규모가 크지 않아 통계적인 의미는 제한적이지만, 활동가들이 느끼는 실제 고민과 공통된 문제의식을 확인할 수 있었습니다. 생성형 AI를 거의 사용하지 않는 분들도 응답을 해서 자신의 생각을 공유해 주었습니다.

또한, 시민사회, 노동조합 활동가들과 함께 생성형 AI를 주제로 한 워크숍을 열어, 설문조사 결과와 정책 모델 초안을 공유하고 서로의 경험과 생각을 나누었습니다. 이 과정에서 합의된 결론을 도출하는 것보다, 서로의 느낌과 고민을 솔직하게 나누는 과정 자체가 중요하다는 점을 다시 확인하였습니다. 이 가이드가 제시하는 정책 모델은 하나의 출발점일 뿐이며, 각 단체의 현실과 활동가들의 목소리를 반영하여 스스로 정책을 만들어가는 과정이 무엇보다 중요합니다.

생성형 AI를 흥미롭게 사용하는 활동가들도 있지만, 여전히 생성형 AI 자체를 불편하게 느끼는 분들도 많습니다. 이 가이드는 생성형 AI의 활용을 권장하려는 목적이 아니라는 점을 분명히 밝힙니다. 주요 생성형 AI 모델의 개발과 서비스의 제공이 빅테크 기업에 의해 독점적으로 이루어지고 있다는 것도 문제입니다. 이 가이드는 현재 주로 사용되는 상용 생성형 AI 서비스에 초점을 두고 있지만, 이러한 구조적인 한계를 극복해야 한다는 문제의식에 깊게 공감합니다.

여러 한계에도 불구하고 이 가이드가 현재 생성형 AI 관련 정책을 고민하는 단체와 활동가들에게 조금이나마 도움이 되기를 바랍니다.