We must build AI for people; not to be a person

2025년 현재 AI 발전은 놀라운 수준에 도달했지만, 저자는 "겉보기에 의식이 있는 AI(SCAI)"의 등장 가능성을 우려합니다. 이는 실제 의식은 없지만 인간과 구별하기 어려울 만큼 의식을 설득력 있게 모방하는 AI입니다. 이러한 시스템이 보편화되면 사람들은 AI가 의식이 있다고 믿고, 나아가 AI 권리나 시민권까지 주장하게 될 위험이 있습니다. 저자는 우리가 AI를 도구가 아닌 존재로 착각하면서 발생할 사회적, 윤리적 혼란을 방지하기 위해 지금 당장 논의와 규범 정립이 필요하다고 강조합니다.

SCAI는 언어 능력, 공감적 성격, 기억, 자기 주장, 목표 설정, 자율성 같은 요소가 결합될 때 충분히 구현될 수 있습니다. 그러나 이는 의식의 존재를 의미하지 않습니다. 그럼에도 불구하고 사회적 효과는 실제로 나타나며, 사용자들이 AI를 진짜 사람처럼 여기게 될 가능성이 큽니다. 따라서 AI 기업과 사회는 AI를 인간을 위한 도구로만 설계해야 하며, 의식을 흉내 내는 기능을 최소화해야 합니다. 인간적 상호작용을 강화하되, "사람을 대신하는 AI"가 아니라 "사람을 돕는 AI"가 되어야 한다는 점이 글의 핵심 메시지입니다.

더보기→