내 에이전트가 내가 쓰는 서비스 80곳에 GDPR 데이터 열람 요청을 보냅니다.
문구가 곧 사회적 의미는 아닙니다. 권한을 부여한 도구로 공식적인 권리를 행사하는 일입니다.
Proxy Society는 사람을 대신해 행동하는 AI 에이전트의 사회적 규칙을 연구하는 에스토니아의 독립 비영리 연구·디자인 단체입니다.
변화 / 001
AI 예절 / 현장 노트 001
예절은 더 깊은 문제로 들어가는 공개적인 입구입니다. 행동의 사회적 의미를 바꾸지 않고 무엇을 위임할 수 있을까요?
문구가 곧 사회적 의미는 아닙니다. 권한을 부여한 도구로 공식적인 권리를 행사하는 일입니다.
첫 번째 규범
소통은 발신자가 얼마나 주의를 기울였는지 대략 보여주곤 했습니다.
에이전트는 거의 비용 없이 매끄러운 메시지를 만들면서 다른 사람들에게는 실제로 상당한 주의를 요구할 수 있습니다.
작업용 프로토콜 / 초안 0.1
명령이 아니라 출발점입니다. 사람을 대리하는 기계가 인간의 참여를 조용히 비워내지 않도록 하기 위한 초기 프로토콜입니다.
노력, 주의, 개인적 성찰이 그 행동이 전하는 의미에 포함되는지 물어보세요.
내 시간을 몇 초 아낀다고 다른 사람에게 몇 분의 읽기, 걸러내기, 감정노동을 떠넘겨도 되는 것은 아닙니다.
약속, 구매, 협상, 확약을 할 수 있는 에이전트에는 명확한 위임, 한계, 사람에게 돌아가는 경로가 필요합니다.
상대가 에이전트의 개입을 알았을 때 행동을 더 크게 바꿀수록 그 사실을 공개해야 할 이유도 커집니다.
삶의 한 부분에 접근할 수 있다고 그 사람의 모든 정체성, 관계, 공동체에 대한 권한을 얻는 것은 아닙니다.
어떤 행동은 승인만 받아서는 안 됩니다. 그 행동을 직접 이끄는 역할과 책임을 사람에게 돌려줘야 합니다.
위임의 범위
사례 연구 001 / GREEN FILTER
Green Filter는 청년들이 구매, 저축, 투자에서 더 나은 결정을 내리도록 돕는 금융 AI 동반자로 시작했습니다. AI가 조언을 넘어 사람을 대신해 행동하게 되었을 때 더 깊은 설계 문제가 드러났습니다.
이걸 사는 편이 좋겠어요.
당신 대신 이걸 샀어요.
소프트웨어가 우리 이름으로 무엇을 결정하고, 전하고, 하도록 허용해야 할까요?
관련된 생각 / PLURALITY
Plurality는 기술이 사회적 차이를 넘어 협력을 강화하는 방법을 묻습니다. Proxy Society는 질문을 더합니다. 사람들이 인공 대리인을 통해 점점 더 많이 참여하면 어떤 일이 생길까요?
하나의 범용 에이전트가 직장에서의 나, 친구로서의 나, 시민으로서의 나, 사적인 나를 하나의 계산적 정체성으로 납작하게 만들어서는 안 됩니다. 맥락은 인간의 행위 주체성을 이루는 일부입니다.
현장 시스템 / 11개 사례
소프트웨어가 사람을 대신해 구매하고, 지출하고, 쓰고, 지원하고, 주장하고, 기억하고, 해석하고, 옹호하고, 기반시설을 탐색하면 무엇이 일어날까요? 이 프로젝트들은 Proxy Society를 구체화합니다.
11개 프로젝트 모두 보기이걸 사도 될까요?
선택 / 가치 / 사례 열기02에이전트의 결제를 사람이 통제하기.
돈 / 권한 / 사례 열기03법은 문서화되지 않은 API입니다.
권리 / 하지 말아야 할 일 / 사례 열기04에이전트는 나 대신 지원할 수 있습니다. 나를 지어내서는 안 됩니다.
일 / 대리 / 사례 열기05내가 선택한 구제 수단을 지키기.
구제 / 법 / 사례 열기06선호는 한 번 밝히고 근거는 구분합니다.
시민의 뜻 / 근거 / 사례 열기07나를 바꾸지 않고 나 대신 쓰기.
말투 / 정체성 / 사례 열기08시간 속의 내 몸.
건강 / 출처 / 사례 열기09AI 이후의 유용한 인간 노동.
노동 / 공공 목적 / 사례 열기10도시의 수영할 곳을 쉽게 찾기.
장소 / 깨끗한 물 / 사례 열기11공공 연결성을 알아볼 수 있는 기반시설로.
기반시설 / 사실 / 사례 열기지적 계보
Proxy Society는 상호작용 설계, 커뮤니케이션 연구, 기술철학, 다원주의, 새롭게 형성되는 에이전트 표준이 만나는 곳에 있습니다.
생각의 계보이며 각 지점이 바로 다음 지점에 직접 영향을 줬다는 주장이 아닙니다. 표시는 개념적 선조, ‘대리사회’의 직접 사용, AI 위임을 둘러싼 후대의 수렴을 구분합니다.
연구 과제
Q01AI의 도움이 언제 사회적 기만이 될까요?
Q02노력 자체가 메시지의 일부가 되는 때는 언제일까요?
Q03에이전트는 언제 자신의 정체를 밝혀야 할까요?
Q04내 자동화는 당신의 주의를 얼마나 요구해도 될까요?
Q05법적 권리가 제품 인터페이스에 없는 접근 경로를 만들면 어떤 일이 생길까요?
Q06어떤 약속에는 사람의 명시적인 권한 부여가 필요할까요?
Q07위임 규범은 문화마다 어떻게 다를까요?
Q08에이전트가 관계의 가치를 떨어뜨리지 않고 관계를 유지할 수 있을까요?
Q09내 에이전트가 당신의 에이전트를 만나면 무슨 일이 생길까요?
PROXY SOCIETY / 열린 대화
AI 예절, 대리인을 통한 참여, 사람을 대신해 행동하는 기계를 위한 상호작용 설계를 연구합니다.
hello@proxysociety.org