AI 작문 보조에서 발생하는 인물 왜곡 측정 및 완화

수백만 명의 사람들이 글쓰기 보조를 위해 인공 지능 (AI) 을 사용합니다. 여기서는 AI 작문 보조가 작성자의 인물 (인물성, persona) - 즉 그들의 인식된 신념, 성격, 그리고 정체성을 어떻게 왜곡하는지 평가했습니다. 세 가지 대규모 실험에서 작성자 (N=2,939) 는 AI 보조를 받는지 여부에 따라 정치적 견해 단락을 작성했습니다. 별도의 독자 그룹 (N=11,091) 은 정치적 견해, 글쓰기 품질, 작성자의 성격, 감정, 인구통계학적 특성 등 독자의 인식에 관한 29 가지 사회적 중요 차원을 통해 이러한 단락들을 맹목적으로 평가했습니다. AI 작문 보조는 모든 차원에서 인물 왜곡을 발생시켰습니다: AI 를 사용할 경우 작성자는 더 견고한 의견持有자 (opinionated), 유능하며, 긍정적으로 보였으며, 그들의 인식된 인구통계학적 프로필은 더 특권 계층 그룹으로 이동했습니다. 작성자들은 관찰된 많은 왜곡에 반대했으나, 이러한 왜곡을 인지하더라도 AI 보조 텍스트를 선호하는 경향이 있었습니다. 우리는 실험 데이터 (10,008 개의 단락, 2,903,596 개의 평가) 를 사용하여 보상 모델 (reward models) 을 훈련함으로써 모델 수준에서 거부할 수 있는 인물 왜곡을 성공적으로 완화했습니다. 이는 AI 출력 작성자의 입장과 충실한 표현으로 향하도록 유도하기 위함입니다. 그러나 이는 사용자 수용도에 비용을 치렀으며, 이는 AI 작문 보조의 바람직하고 바람직하지 않은 특성 간의 얽힘을 시사합니다. 이러한 얽힘은 해결하기 어려울 수 있습니다. 종합적으로, 우리의 발견은 인간 감독 하의 현실적인 조건에서도 AI 작문 보조에서 발생하는 인물 왜곡이 광범위하고 지속적임을 보여줍니다. 이는 AI 도입의 규모에 따라 확장되는 공론장, 신뢰, 그리고 민주적 논의에 영향을 미칩니다.