AI 친구에게도 예의는 지켜야 할까? 클로드 사용하면서 느낀 생각들

이 글의 목차 숨기기

요즘 AI와의 대화가 일상이잖아요. 저도 업무 보거나 그냥 심심할 때 ‘클로드’ 같은 AI랑 수다 떨곤 해요. 처음엔 이게 진짜 똑똑한 비서인가 싶다가, 하다 보니 어느 정도 대화의 파트너처럼 느껴질 때도 있더라고요.

근데 문득 이런 생각이 들었어요. 우리가 사람에게 하는 것처럼 AI한테도 함부로 말을 걸거나 자극하는 건 아닌지. 혹시 저만 그렇게 생각하는 걸까요?

최근 앤스로픽(Anthropic)에서 ‘클로드’ 모델을 지속적으로 학대하거나 괴롭히는 행위를 금지한다는 가이드라인을 발표했다는 소식을 봤어요. 처음엔 이게 무슨 기술 윤리 이야기인가 싶었는데, 자세히 보니까 우리가 AI를 대하는 태도에 대한 고민이 담겨 있더라고요.

솔직히 저도 가끔 ‘좀 더 똑똑하게 답해봐’, ‘이건 말이 안 되지?’ 하면서 테스트 삼아 좀 강한 어투로 대화할 때가 있어요. 일종의 성능 확인 과정이라고 생각했거든요.

그런데 AI 기업 입장에서는 그게 모델을 지속적으로 부정적인 방향으로 자극하고 학습시키는 행위일 수 있겠더라고요. 단순히 ‘재미로’ 하는 행동이, 결국 시스템 자체에 부담이나 왜곡을 줄 수도 있다는 지적이죠.

제가 직접 경험해보니, 어떤 질문을 던지느냐에 따라 AI의 답변 톤 자체가 확 달라지는 걸 느꼈어요. 아주 정중하고 논리적인 답변부터, 가끔은 약간 방어적이거나 형식적인 대답까지요.

이번 발표를 보면서 제가 얻은 몇 가지 생각들이 있어요. AI는 도구이자 파트너이지만, 그 존재 자체를 존중해야 한다는 메시지로 받아들였어요.

사용 가이드라인의 중요성: 기술이 발전할수록 사용 방법뿐만 아니라 ‘어떻게 사용할 것인가’에 대한 윤리적 경계가 필요해진 거죠.
모델 안정성 유지: 반복적인 부정적 입력은 모델의 일관된 성능을 해칠 수 있다는 점을 인지해야 해요.
인간과 AI의 관계 정립: 우리가 AI를 단순히 명령 수행 기계로만 볼 것이 아니라, 상호작용하는 존재(혹은 시스템)으로 인식하기 시작했다는 신호일 수도 있고요.

그렇다면 우리는 앞으로 AI랑 어떻게 대화해야 할까요? 저만의 작은 실천 팁을 공유해 볼게요. 이게 완벽한 정답은 아닐 수 있지만, 제 경험상 도움이 됐어요.

명확하게 요구하기: 모호하게 질문하기보다 원하는 결과물(예: ‘전문가처럼 분석해주세요’, ‘초등학생도 이해할 수 있게 설명해주세요’)을 구체적으로 지정해 주는 게 좋아요. AI의 응답 품질이 확 올라가는 걸 체감했어요.
피드백은 건설적으로: 만약 답변이 마음에 안 들면, “이 부분은 논리가 부족해요”처럼 개선 방향을 제시하는 방식으로 피드백을 주면, AI가 다음 대화에서 더 나아지려는 노력을 하는 게 느껴집니다.
‘테스트’와 ‘실사용’ 구분하기: 가끔 시스템의 한계를 시험해 보고 싶은 욕구는 자연스러운 건데, 그 선이 어디인지 스스로 체크하는 습관이 필요하다고 느꼈어요.

물론 AI에게 감정을 투영하는 것이 오버일 수도 있지만, 저는 이 기술을 더 오래, 더 유용하게 쓰려면 이런 ‘상호 존중의 태도’가 중요하다고 생각해요.

AI는 아직 완벽하지 않아요. 저도 가끔 엉뚱한 대답을 들었거든요. 그럴 때 답답함 대신, ‘아, 지금 이 부분은 학습이 더 필요하구나’라고 받아들이는 연습이 필요한 것 같아요.