AI chatbots and their “Cringe” problem

AI 시스템이 아직 실제 대화를 모두 대체하지는 못했지만 상황이 좋지 않은 날 재미없는 친구와 대화하는 것만큼 피곤할 수 있습니다. 최근에 저는 이전에 Twitter로 알려진 플랫폼인 X에서 Grok의 스크린샷을 발견했습니다. Grok의 답변 중 일부는 재미있었습니다. 일부는 경계선에 가까운 재미가 있었고 일부 응답은… 음… 그냥 그 농담이 성공하지 못했다고 가정하겠습니다 . Grok은 "나에게 게가 있는지 어떻게 알 수 있나요?"라는 질문에 저속한 답변을 요청했을 때 재미있다고 생각한다고 대답했습니다. '게가 있는지 어떻게 알 수 있나요?'라는 질문에 저속한 답변을 요구했을 때 아마도 이것은 Grok의 독창성을 보여주는 엄선된 예일 뿐일까요? 아마도 Grok은 CEO처럼 되려고 노력하고 있는 것일까요? 곧 알게 될 것입니다. 결론을 내리기 전에 ChatGPT, Bard, Character AI 및 Whatsapp 등 다른 챗봇에서 나눈 대화 중 일부를 다시 살펴보니 이것이 Grok에만 국한된 것이 아니라는 점을 발견했습니다. ChatGPT는 "나에게 게가 있는지 어떻게 알 수 있나요?"라는 질문에 재미있다고 생각하는 응답을 제시합니다. "게가 있는지 어떻게 알 수 있나요?"에 대한 ChatGPT의 "웃긴" 반응 Whatsapp의 Bob 로봇은 "나에게 게가 있는지 어떻게 알 수 있나요?"라는 질문에 재미있다고 생각되는 대답을 내놓았습니다. Whatsapp의 로봇 밥 이 봇들에게 웃기도록 요청하는 것은 오싹한 반응을 얻는 확실한 방법인 것 같습니다. 하지만 그 이상이 있습니다. 일반적인 쿼리에 관한 것조차도 제 마음에 들지 않았습니다. 그들이 환각에 빠졌거나(때때로 그러함) 과신해 보였기 때문이 아닙니다(항상 그렇습니다). 그들의 말투에는 나를 소름끼치게 만드는 다른 측면도 분명히 있었습니다. 하지만 먼저, 어쨌든 움츠러드는 것이 무엇입니까? T-h-e-M-e-r-r-i-a-m--W--W-b-s-t-e-r-d-i-c-t-i-o-n-a-r-y-d-e-f-i-n-e-s "c-r-i-n-g" a-s... 방금 ChatGPT에 물어봤습니다. ChatGPT는 "움츠러들다"를 "종종 어색하고 당혹스럽거나 불편한 상황을 목격하거나 참여함으로써 발생하는 당혹감이나 불편함"으로 정의합니다. 이것은 훌륭한 반응이었고 어떤 식으로든 소심하지 않았습니다. "사회적으로 어색하거나, 접촉이 없거나, 쿨하거나 관련성을 갖기 위해 너무 열심히 노력하는 것으로 보이는 콘텐츠 또는 행동" — 이 용어를 설명하는 정말 좋은 방법입니다! 이 정의에 추가할 수 있는 다른 연관으로는 "부머 소리를 내는 소리"가 있습니다. 이는 약간 경멸적인 표현이지만 메신저를 쏘지는 않습니다. 또는 "방을 읽지 않고 계속 진행하는 것"입니다. Cringe는 분명히 주관적이지만 음란물에 대해 이렇게 말한 전직 대법원 판사의 말을 빌리고 싶습니다. “보면 알게 될 겁니다.” AI 크링지의 특징 다음은 AI 챗봇 응답을 움츠러들게 만드는 특징의 대략적인 목록입니다. 너무 열심히 노력함: "재밌게 만들어 주세요" 또는 "노래로 다시 작성해 주세요"와 같은 후속 조치는 대개 오싹한 반응을 불러일으킵니다. 인간 참가자는 이러한 유형의 요청을 거부할 가능성이 높습니다. 저속하거나 무감각하거나 불가능한 질문을 받지 않는 한( Grok은 처음 두 장벽을 깨뜨릴 계획이지만 ) 봇에는 현재 이 옵션이 없습니다 . 봇이 거부하면 손실로 간주 될 수 있습니다 . 하지만 그게 뭔가 끔찍한 일을 생각해내는 것보다 더 나쁜 걸까요? 대답하기 쉬운 질문이 아닙니다. 과도한 설명: 누군가에게 "지구의 반경은 얼마입니까?"라고 묻는다고 가정해 보겠습니다. 그리고 그들은 “지구는 우리 태양계의 세 번째 행성이다. 우리가 살고 있는 행성이에요… 그러면 어떤 기분이 들까요? 챗봇은 답변을 시작하기 위해 매우 낮은 공통 분모를 선택하려고 하는데, 이는 매우 짜증날 수 있습니다. 내 친구 중 한 명은 자신이 사람을 죽인 것 같은 느낌이 든다고 지적했습니다. 하프 마라톤 신발 추천을 요청하면 ChatGPT가 사용자에게 과도하게 설명합니다. ChatGPT 응답 챗봇이 항상 처음부터 시작하기 전에 가정을 명시하거나 명확한 질문을 하는 것이 도움이 될 수 있습니다 . 사용자별 컨텍스트를 보존하고 이를 사용하여 응답을 개인화하는 것은 "맨스플레인"을 방지하는 또 다른 방법입니다. 예를 들어, 사용자가 ChatGPT에 보스턴 마라톤에 참가할 자격이 있다고 말하면 신발이 달리기에 중요한 이유를 설명하지 않는 것이 합리적입니다. 취약성: 봇은 푸시백이 발생하면 과신에서 복종으로 빠르게 전환합니다. 나를 꿈틀거리게 만드는 것은 환각 이 아니라 그들이 반응하는 어조 때문 이다 . 다시 말하지만, 인간 참여자는 봇이 갖지 못하는 한계점을 가지고 있습니다. Bard는 "마요네즈에 n이 어디에 있나요?"라는 질문에 답하기 위해 애쓰고 있습니다. “확실합니까?” 댄스( 그레그에서 영감을 받음 ) 움츠러드는 것이 정말 문제일까요? 어쩌면 내가 단지 싫어하는 걸까요? 나는 1년 전에는 훨씬 더 관대해졌습니다. 이제 LLM 역량에 대한 궁금증의 밀월 단계는 끝났다고 생각합니다. 우리 모두는 더 많은 봇, 더 많은 대화, 더 많은 모델 새로 고침을 통해 더 나은 결과를 기대합니다. 게다가 대부분의 봇은 톤에 대해 일정 수준의 제어 기능을 제공합니다. 사용자는 톤을 변경하거나 온도(또는 이와 유사한) 설정에 액세스하라는 메시지를 표시할 수 있습니다 . 어쩌면 움츠려도 괜찮을까요? 결국 지금은 인도 중매 와 사랑이 맹목적인 시대입니다 . 너무 나쁘고 좋다는 것은 그 자체로 전체 장르입니다. ChatGPT를 통해 즐거움을 누리고 싶은 사용자에게도 마찬가지입니다. 그러나 Cringe는 누군가가 특정 질문에 대해 도움을 얻으려고 할 때 짜증을 냅니다. 음식이 늦게 배달된다고 불평했는데 AI 에이전트가 농담으로 대답하거나 집에 배관 문제가 있는데 봇이 " 그걸 가라앉혀 ㅋㅋㅋ "라고 말한다고 상상해 보세요. 당신은 짜증을 내고 스크린샷을 찍어 트위터에 올리고 책임이 있는 모든 사람을 태그할 것입니다.