커뮤니티

비탈릭 "AI 거버넌스, 심각한 보안 위험 초래"

비탈릭 부테린 이더리움 창시자가 "순진한 AI 거버넌스는 나쁜 아이디어"라며 "AI를 통한 거버넌스는 자금 탈취를 목적으로 한 탈옥 프롬프트에 취약할 수 있으며, 이는 상당한 보안 리스크를 초래한다"고 지적했다. 이어 그는 "단일 LLM을 직접 하드코딩하기보다 외부 LLM 보유자들이 참여할 수 있는 개방형 기회를 창출하는 '제도 설계'형 접근법이 본질적으로 더 견고한 방법"이라며 "이는 앞서 제안한 '인포파이낸스 접근법'의 핵심 개념이기도 하다. 이를 통해 실시간으로 AI 모델 다양성을 확보하며, 인간 심사위원단의 개입으로 보안을 챙길 수도 있다"고 부연했다.