제목: AI가 바꾸는 안전과 규제, 소셜벤처가 주목할 지점

요즘 시사 뉴스를 훑다 보면 ‘AI’라는 단어가 안 들어가는 기사가 없을 정도다. 그런데 흥미로운 건 AI가 산업 육성의 도구로 쓰이는 영역과, 시민 안전의 도구로 쓰이는 영역이 꽤 다르게 흘러간다는 점이다. 같은 기술을 두고 한쪽에서는 ‘빨리 풀어야 한다’고 말하고, 다른 쪽에서는 ‘먼저 검증해야 한다’고 말한다. 두 목소리는 종종 같은 신문 지면 안에서도 서로 다른 언어를 쓰고 있는 것처럼 보인다. 어쩌면 우리가 AI를 이야기할 때 실제로는 서로 다른 두 개의 AI를 이야기하고 있는지도 모르겠다.
얼마 전 한겨레 기사를 읽으며 잠시 멈칫했다. 자가면역세포 치료 분야에서 임상 선행 없이도 가능한 제도가 논의되고 있고, 그 과정에서 ‘환자 안전보다 산업 육성에 초점이 맞춰진 것 아니냐’는 비판이 나온다는 내용이었다. 신기술을 빠르게 키우고 싶은 마음과, 그 신기술이 사람에게 닿기 전에 충분히 검증되어야 한다는 원칙 사이의 줄다리기. 소셜벤처 생태계를 오래 지켜본 입장에서는 익숙하면서도 찜찜한 풍경이다. 익숙한 이유는 이 줄다리기가 AI만의 것이 아니기 때문이다. 바이오, 핀테크, 모빌리티, 교육까지 영역만 바꿔가며 같은 구도가 반복된다. 찜찜한 이유는 그 반복 속에서 늘 같은 사람이 마지막에 남기 때문이다. 제도가 완성될 무렵이면 이미 피해를 본 사람이 존재하고, 그 사람의 이야기는 ‘사후 보완’이라는 이름으로 부록처럼 붙는다.
실제로 이런 구도는 통계에서도 드러난다. 신기술 도입 초기에는 사고의 유형 자체가 예측 불가능한 경우가 많아, 규제 당국이 사후에 가이드라인을 만드는 방식이 관행처럼 굳어져 있다. 문제는 그 가이드라인이 나올 때쯤이면 이미 시장에는 수십 개의 변형 서비스가 나와 있고, 그중 상당수는 가이드라인의 사각지대를 정확히 파고들어 설계되어 있다는 점이다. 규제가 기술을 따라가는 속도전에서 늘 반 발짝씩 뒤처지는 이유다. 소셜벤처 창업자들과 이야기해보면 이 지점에서 흥미로운 온도차가 느껴진다. 산업 육성의 언어로 말하는 팀은 ‘규제가 풀리면 무엇을 할 수 있는가’를 먼저 말하고, 안전의 언어로 말하는 팀은 ‘규제가 없어도 우리가 스스로 지키는 원칙이 무엇인가’를 먼저 말한다. 후자의 팀이 투자 유치에서는 종종 불리하지만, 장기적인 신뢰 자산에서는 앞서는 경우를 여러 번 봤다.
반대로 AI를 안전 쪽에 붙이는 사례도 눈에 띈다. 지디넷코리아 보도에서는 AI 안전 플랫폼이 국제치안산업대전에서 공개됐다는 소식이 전해졌다. 전기안전공사가 AI로 전력망 확충 부담을 줄이는 기술 개발에 나선다는 기사도 같은 맥락이다. 같은 기술이라도 어디에 붙느냐에 따라 ‘규제 완화의 명분’이 되기도 하고 ‘안전망 강화의 도구’가 되기도 한다. 여기서 한 가지 짚고 싶은 것은, 안전 목적의 AI 역시 그 자체로 완벽하지 않다는 점이다. 이상 탐지 모델이 오탐을 반복하면 현장 담당자는 경보를 무시하게 되고, 그 무시가 쌓이면 정작 진짜 위험 신호가 묻히는 ‘경보 피로’ 현상이 발생한다. 안전을 위한 기술일수록 그 기술의 실패 모드까지 함께 설계해야 하는 이유다.
이 지점에서 나는 늘 두 가지 질문을 나란히 놓고 본다. 첫째, 이 기술이 실패했을 때 가장 먼저 피해를 보는 사람은 누구인가. 둘째, 그 피해를 입은 사람이 자기 목소리를 낼 통로가 제도 안에 있는가. 소셜벤처 경연대회 심사장에서도 비슷한 질문을 자주 던지곤 한다. 사회적 가치를 내세우는 아이디어일수록 ‘누가 소외되는가’를 먼저 답해야 설득력이 생기더라. 여기에 세 번째 질문을 덧붙이기도 한다. ‘이 기술이 성공했을 때 가장 먼저 이득을 보는 사람은 누구인가.’ 실패의 시나리오만 물으면 지나치게 비관적으로 보일 수 있지만, 성공의 수혜자까지 함께 물으면 그제야 아이디어의 정치경제학이 보이기 시작한다. 수혜자가 이미 목소리 큰 집단에 몰려 있다면, 그 기술은 사회 문제 해결이 아니라 기존 격차의 재확인일 가능성이 높다.
<비교표>
| 구분 | 산업 육성 중심 접근 | 안전·시민 보호 중심 접근 |
|—|—|—|
| 우선순위 | 시장 진입 속도, 투자 유치 | 검증 절차, 피해 구제 |
| AI 활용 방식 | 규제 샌드박스, 심사 간소화 | 이상 탐지, 사전 경보, 모니터링 |
| 성과 지표 | 기술 상용화 건수, 매출 | 사고 감소율, 회복 시간 |
| 리스크 | 검증 부족, 책임 소재 불명확 | 초기 비용 부담, 속도 지연 |
| 소셜벤처 관점 | 확장성은 크지만 신뢰 확보가 관건 | 신뢰는 높지만 지속가능성 설계 필요 |
두 접근은 대립하는 것이 아니라 순서의 문제에 가깝다. 문제는 순서가 뒤바뀔 때 생긴다. 산업이 먼저 달리고 안전이 나중에 따라붙는 구조에서는, 피해가 발생한 뒤에야 제도가 급하게 만들어지는 일이 반복된다. 그 피해의 무게는 대개 개인에게 집중된다. 디지털 환경에서 개인정보나 신뢰가 훼손됐을 때 실질적인 구제 절차가 어떻게 작동하는지 궁금하다면 성범죄전문변호사 같은 곳에서 다루는 사례들을 참고해보는 것도 하나의 방법이다. 제도가 미처 따라가지 못한 영역에서 개인이 어떤 절차를 밟게 되는지 가늠해볼 수 있어서다. 이런 사례들을 들여다보면 공통점이 하나 있다. 피해자는 대개 ‘내가 당한 일이 법적으로 문제가 되는지’부터 확인해야 한다는 사실조차 모른 채 시간을 흘려보낸다는 점이다. 제도의 존재와 제도에 접근하는 능력 사이의 간극, 그것이 규제 논의에서 가장 자주 빠지는 변수다.
이 간극은 소셜벤처에게도 직접적인 과제로 다가온다. 아무리 좋은 안전 기술을 만들어도, 정작 그것이 필요한 사람이 그 기술의 존재를 모르거나 이용 절차를 이해하지 못한다면 그 기술은 절반만 작동하는 셈이다. 그래서 요즘은 ‘기술의 성능’만큼 ‘기술에 닿는 경로’를 함께 설계하는 팀을 눈여겨본다. 접근성, 언어, 디지털 리터러시, 오프라인 대체 경로까지 고려한 서비스는 초기 확산 속도는 느릴지 몰라도 한 번 자리를 잡으면 쉽게 무너지지 않는다. 반대로 화려한 데모로 시작해 접근성 설계를 건너뛴 서비스는 파일럿 이후 조용히 사라지는 경우를 여러 번 봤다.
결국 관건은 ‘누구를 위한 속도전인가’라는 질문으로 돌아온다. 소셜벤처 씬에서도 AI를 앞세운 사회 문제 해결 아이디어가 쏟아지고 있지만, 나는 그 아이디어가 실패했을 때의 시나리오를 함께 말하는 팀에 더 마음이 간다. 실패 시나리오를 말할 줄 아는 팀은 대개 책임의 경계도 명확히 그어둔다. 어떤 문제는 우리가 풀고, 어떤 문제는 우리가 풀지 않겠다고 말할 수 있는 팀. 그 경계 긋기가 결국 기술이 산업의 언어로만 번역되지 않고, 사람의 언어로 한 번 더 번역되는 순간을 만든다. 그 지점에서 사회적 가치와 시장성이 비로소 같은 방향을 보게 될 테다.