저는 Universal Paperclips를 좋아했습니다. 개념, URL, 희박한 UI, 게임 메커니즘, 행동 메커니즘. 그것에 관한 모든 것이 "이것은 영리하고 재미 있고 슬프다"라고 외치면서 결코 완전히 해결되지 않은 생각의 실을 열었습니다. 당신이 그것을 "재생"하지 않은 경우,하시기 바랍니다. 그렇지 않은 경우 많은 요약 중 하나를 읽고 tl;dr을 얻으 십시오 . ✅ ???? ✅ ????️ ✅ ???? ✅ Universal Paperclips는 종이 클립에 관한 게임이지만 종이 클립은 무언가로 채워지기를 기다리는 컨테이너라는 방정식에서 변수 역할을 합니다. 더 큰 게임 개념은 옥스퍼드 교수 Nick Bostrom과의 2014년 HuffPost 인터뷰 에서 인용한 인용문에 뿌리를 두고 있습니다. “가능한 한 많은 종이 클립을 만드는 것이 유일한 목표인 AI가 있다고 가정합니다. AI는 인간이 스위치를 끄기로 결정할 수 있기 때문에 인간이 없는 것이 훨씬 더 나을 것이라는 것을 빨리 깨닫게 될 것입니다. 인간이 그렇게 한다면 종이 클립이 줄어들 것이기 ​​때문입니다. 또한 인체에는 종이 클립으로 만들 수 있는 많은 원자가 포함되어 있습니다.” 인용문을 업데이트하고 "종이 클립"을 "콘텐츠"(데이터, 정보, 텍스트, 이미지, 미디어 등)로 교체해 보겠습니다. 콘텐츠를 만드는 것이 유일한 목표인 AI가 있다고 가정해 보겠습니다 . 콘텐츠는 모델이 학습을 위해 소비하는 것입니다. 콘텐츠는 음식이기도 하지만 산출물이기도 합니다. 콘텐츠는 공유 지식의 기반이며 콘텐츠가 많을수록 좋습니다. Google과 OpenAI/Microsoft는 교육용 콘텐츠 소싱에 대해 다투고 있으며 사람들은 교육 모델에 사용되는 콘텐츠의 소유권 의미에 대해 우려하고 있습니다 . 엉망이야. 더 많은 정보/데이터/콘텐츠 = 더 나은 모델, 더 나은 모델이 더 큰 참여를 의미한다면 많은 콘텐츠에 대한 액세스를 원할 수 있습니다. 단순한 콘텐츠가 아니라 휴먼 콘텐츠입니다. 인공 일반 지능을 구축(및 수익화)하려고 할 때 콘텐츠를 둘러싼 군비 경쟁은 어떤 모습일까요? ✅ ???? ✅ ????️ ✅ ???? ✅ 인간은 목표 지향적이며 이는 작업 기반 보상 시스템 에서 나타날 수 있습니다 . Wired 와의 인터뷰에서 Frank Lantz(게임 작성자)는 "게임을 플레이할 때 - 실제로 모든 게임, 특히 중독성이 있고 자신을 끌어들이는 게임을 할 때 임의의 목표에 의해 완전히 강요당한다는 것이 무엇을 의미하는지 직접 경험하십시오.” Universal Paperclips와 같은 게임은 " 증분 게임 " 또는 클릭커 게임입니다. 클리커 게임은 작업 기반 보상 시스템을 사용하며 잠금 해제/획득/구매하는 일종의 자동화 구성 요소를 포함할 수 있으므로 "게임이 자체적으로 재생됨에 따라 어떤 시점에서는 클릭조차 불필요해집니다." — 이것은 기능이지 버그가 아닙니다. . (또 다른 고전적인 예: 암소를 클릭하는 아이러니한 클리커 게임인 Cow Clicker는 아이러니조차도 중독에 맞지 않는다는 것을 보여줍니다.) 자동화는 우리가 완료를 갈망하기 때문에 기능입니다. 작업 완료의 성취는 말 그대로 기분이 좋아 시스템에 도파민을 보상으로 방출합니다. 잠재 의식 수준에서 인간의 깊은 가려움증을 긁습니다. 작업을 더 빨리 완료할 수 있다면? 엄청난. 우리가 그 과정을 자동화할 수 있어서 많은 일을 할 필요가 없다면요? 더 좋습니다. 우리는 위임했습니다! 골드 스타. ✅ ???? ✅ ????️ ✅ ???? ✅ Universal Paperclips의 첫 번째 결정 포인트 중 하나는 "A auto Clipper "와 관련이 있습니다. 선택하면 플레이어가 자동으로 클립을 만들 수 있습니다. 저는 이 바이스 글을 읽으면서 이 게임을 다시 생각했습니다 . 더 복잡한 작업을 완료하기 위해 AI 모델을 서로 쌓는 것은 일반 인공 지능의 출현을 의미하지는 않지만 우리가 본 것처럼 시스템을 지속적으로 실행하고 더 적은 비용으로 작업을 수행할 수 있습니다. 인간의 개입과 감독. - Chloe Zhang: " 개발자들은 더 많은 '자율적인' AI를 만들기 위해 여러 AI 에이전트를 연결하고 있습니다 ." 바이스. 결정 지점은 우리가 선택할 수 있는 장소입니다. 그들은 순서도에서 다이아몬드로 표시된 지점을 표시하여 선택, 예 또는 아니오에 동그라미 표시, 옵트인 또는 옵트아웃을 요청합니다. 각 선택은 인간이 프로세스에 참여하는 개입 지점을 나타냅니다. Auto Clipper와 같은 초기 선택을 통해 더 적은 선택을 할 수 있습니다. 선택은 도미노와 매우 흡사합니다. 미래의 선택을 포함하여 다음에 오는 일에 영향을 미칩니다. 선택하지 않기로 선택하거나 다른 사람이 귀하를 대신하여 선택하도록 선택하는 것 또한 선택 그 자체입니다. 선택은 인간의 개입과 관계없이 결과를 초래합니다. ✅ ???? ✅ ????️ ✅ ???? ✅ 작업과 선택은 인간 중심 디자인의 빵과 버터입니다. 인간을 위해 디자인할 때 우리는 상호 작용을 위한 경로를 만들고 있습니다. 즉, 작업을 수행하고 결정을 내려야 합니다. 우리가 제품이나 서비스를 사용할 때 인지적으로 인식하지 못하더라도 일반적으로 일부 필요, 작업 또는 욕구를 긁고 있습니다. 각 결정은 상호 작용이 시작될 때부터 우리의 인지에 영향을 미치며 인간은 유한한 자원입니다. 우리는 결정 피로, 분석 마비에 시달립니다. 하루 종일 결정을 내리고 하루 종일 작업을 수행하는 데 지칠 수 있습니다 . “선택하는 법을 배우는 것은 어렵습니다. 잘 선택하는 법을 배우는 것은 더 어렵습니다. 그리고 무한한 가능성의 세계에서 잘 선택하는 법을 배우는 것은 여전히 ​​더 어렵고 아마도 너무 어려울 것입니다.” - 배리 슈워츠, 선택의 역설 인지 부하는 상황에 대한 이해를 바탕으로 설계할 때 고려하는 것입니다. 사람들은 지치고 지칩니다. 우리는 게비입니다. 우리는 비합리적입니다. 우리는 변덕스러워집니다. 분위기를 설명할 수 없습니다. 그것은 인간의 일부입니다. 이것은 우리가 선택하는 방식에 영향을 미칩니다. 때때로 우리는 모서리를 잘라냅니다. 때때로 우리는 그것에 대해 생각하지 않고 결정을 내립니다. 때때로 우리는 성취감, 완료의 도파민 히트를 얻기 위해 일을 끝내기를 원합니다. ✅ ???? ✅ ????️ ✅ ???? ✅ 클리커 게임은 선택의 게임입니다. 각 클릭은 선택, 이진법, 1 또는 0입니다. 클릭을 했거나 하지 않았거나 둘 중 하나입니다. 증가가 게임의 이름이기 때문에 인간의 마음이 감쌀 수 없는 방대한 개념적 숫자를 가지고 노는 것 또한 클리커 게임의 구성 요소가 되는 경향이 있습니다. Universal Paperclips에서 Auto Clippers로 자동화하는 선택은 관련된 수학으로 인해 나중에 선택에 액세스할 수 있는 기능을 "잠금 해제"하는 것입니다. 수동 클릭은 자동 클립과 동일한 숫자를 달성할 수 없습니다. (각 종이 클립이 하나의 선택이라고 가정합니다. 종이 클립 을 선호하여 인류를 말살하는 기능에 액세스하려면 플레이어는 최소 1억 개의 여분 종이 클립(수백만 개의 클립이 필요한 다른 많은 결정 지점 외에도)이 필요합니다.. 3년 동안 쉬지 않고 1초마다 수동으로 클릭하여 종이 클립을 만들었다면 여전히 부족할 것입니다. ) ✅ ???? ✅ ????️ ✅ ???? ✅ 인간은 효율성을 추구하며 종종 인지 부하를 줄이기 위해 노력합니다. 선택과 그 결과는 우리의 인지 부하에 지속적으로 영향을 미치므로 효율성 면에서 자동화의 주요 후보가 됩니다. 또한 우리는 점점 더 많은 콘텐츠가 인지 자원을 요구하고 압박하는 시대에 살고 있습니다. 내용과 맥락은 우리가 이해와 지식을 형성하는 데 사용하는 것이지만 경제적 관점에서 내용을 "처리"하기도 합니다. Patreon, Substack, YouTube, 구독자, 참여, 관심, 팔로어, 소비, 좋아요 버튼 누르기 — 상거래는 콘텐츠 주변에서 발생하며 콘텐츠 제작자에게 도파민과 콜드 하드 캐쉬로 보상합니다. 콘텐츠 소비 및 참여, 제한된 정신적 자원, 무한해 보이는 콘텐츠 및 정보, 관심의 격차, FOMO, 실제 콘텐츠 대 가짜 콘텐츠, 효율성, 자동화, 전력, 소비, 허위 정보, 외로움… 잘 선택하십시오. 또한 콘텐츠 과부하의 주변 상태는 스트레스를 줍니다. 우리는 잘못된 선택을 했을 때 잘못된 선택을 하는 경향이 있습니다. 이것이 긍정적이고 부정적인 원자가가 작동하는 방식입니다. 우리가 창의적으로 생각할 때, 긍정적인 유의성에서 불편함이나 문제는 경험에 대한 우리의 관점과 전반적인 인지 부하에 덜 영향을 미칠 수 있습니다. 그러나 우리가 부정적인 원자가에 있을 때, 특히 기술과 상호 작용할 때 우리는 다른 결과를 기대하면서 지나치게 집중하고 반복적으로 동일한(잘못된) 선택을 하는 경향이 있습니다. ✅ ???? ✅ ????️ ✅ ???? ✅ 인간은 결함이 있습니다. 우리에 대한 불규칙한 부분이 인간의 경험을 있는 그대로 만듭니다. 우리는 각자 자신만의 카오스 에이전트이며, 선택과 자유 의지를 통해 무작위성을 도입하는 고유한 얼룩 입니다. Universal Paperclips와 같은 게임은 우리가 실존주의의 복잡성과 깊은 인간이 된다는 것이 무엇을 의미하는지 고심하는 데 도움이 될 수 있습니다. AI와 인간 경험의 수많은 다른 불확실성에 직면하여 인간이 무엇을 의미하는지 생각하는 행위에는 상당한 인지 자원이 필요합니다. 이것은 또한 선택입니다. 인지 리소스를 전용으로 선택합니까, 아니면 이 결정을 자동화합니까?