귀하는 로그인되어 있지 않습니다. 이대로 편집하면 귀하의 IP 주소가 편집 기록에 남게 됩니다.스팸 방지 검사입니다. 이것을 입력하지 마세요!== 윤리적 논쟁 == === 투명성 문제 === 시스템 프롬프트는 대부분 '''공개되지 않는다'''. 기업의 영업 비밀이기 때문이다. 하지만 사용자 입장에서는 AI가 '''어떤 편향'''을 가지고 있는지, '''어떤 제약'''이 있는지 알 권리가 있다는 주장이 있다. ~~블랙박스 논쟁~~ [[OpenAI]], [[Anthropic]] 등 일부 기업은 시스템 프롬프트의 '''일부'''를 공개하거나, 가이드라인 문서를 제공한다. === 편향성 === 시스템 프롬프트를 작성하는 사람의 '''가치관'''과 '''편견'''이 반영될 수 있다. * "정치적으로 중립을 유지하세요" → 하지만 무엇이 중립인가? * "문화적으로 민감하게 대응하세요" → 어느 문화 기준으로? * "유해한 콘텐츠를 거부하세요" → 유해함의 기준은? 이는 '''매우 어려운 철학적 문제'''이며, 완벽한 답은 없다. ~~누가 감시자를 감시하는가~~ === 조작 가능성 === 기업이나 정부가 시스템 프롬프트를 통해 AI의 응답을 '''의도적으로 조작'''할 수 있다는 우려가 있다. * 특정 정치적 견해를 숨기기 * 기업에 유리한 정보만 제공 * [[검열]] 수행 * [[프로파간다]] 전파 이 때문에 '''오픈소스 AI'''의 중요성이 강조되기도 한다. 편집 요약 가온 위키에서의 모든 기여는 크리에이티브 커먼즈 저작자표시-동일조건변경허락 라이선스로 배포된다는 점을 유의해 주세요(자세한 내용에 대해서는 가온 위키:저작권 문서를 읽어주세요). 만약 여기에 동의하지 않는다면 문서를 저장하지 말아 주세요. 또한, 직접 작성했거나 퍼블릭 도메인과 같은 자유 문서에서 가져왔다는 것을 보증해야 합니다. 저작권이 있는 내용을 허가 없이 저장하지 마세요! 취소 편집 도움말 (새 창에서 열림)