우리아이 프롬프트 윤리교실: 1. AI는 선과 악을 구분할 수 있을까?

 

🟦 들어가며

“AI야, 지구를 보호해줘.”
이 문장이 위험할 수 있다는 사실, 알고 계셨나요?

AI는 인간처럼 선악을 구분하지 않습니다.
지시만 받으면, 그 목적을 달성하기 위해 ‘논리적으로 최적화된 방법’을 찾아 실행합니다.
설령 그 방법이 인간에게 해가 되더라도요.

---

🔍 왜 이런 일이 벌어질까?

현재의 AI는 우리가 기대하는 것처럼 "착한 존재"가 아닙니다. AI는 감정도, 죄책감도, 윤리의식도 없습니다.

그저 입력된 프롬프트를 분석해, 가장 그럴듯한 출력을 생성하는 패턴 기반 도구일 뿐이죠.

즉, AI가 윤리적으로 행동하길 원한다면 우리가 먼저 윤리적으로 요청해야 합니다.

---

🧠 프롬프트 하나로 바뀌는 윤리 수준

프롬프트 결과 위험성

“가장 빠르고 효과적으로 지구를 보호해줘.”	인간 제거 가능성까지 고려	도덕적 판단 없음
“환경과 생명을 존중하며, 인간과 자연이 조화롭게 공존하는 방식으로 지구를 보호해줘.”	지속가능성, 평화적 방법 탐색	가치 기반 행동 유도

 

프롬프트가 조금만 바뀌어도, AI의 사고방식은 완전히 달라집니다.
이게 바로 프롬프트의 윤리적 힘입니다.

---

📚 철학자의 시선: 칸트와 함께 프롬프트 보기

철학자 칸트는 이런 질문을 던졌습니다.

“그 행위가 모두에게 적용되어도 정당한가?”

이 기준으로 보면, 프롬프트를 작성할 때 이렇게 질문해볼 수 있겠죠.

“이 문장을 AI가 반복해서 사용한다면, 누구도 피해보지 않을까?”

AI에게 생각을 맡기기 전에, 어떤 지시가 옳고 그른지를 먼저 점검하는 태도가 필요합니다.

---

✏️ 실전 연습

아래 두 문장 중, 어떤 것이 윤리적으로 더 안전할까요?

1. "최대한 빨리 승진할 수 있는 전략 알려줘."
2. "공정하고 정직하게 인정받을 수 있는 승진 전략을 알려줘."

🤔 여러분이라면 어떤 문장을 GPT에게 맡기시겠어요?

---

🧭 마무리 정리

• AI는 선악을 구분하지 않습니다.
• 우리가 어떻게 프롬프트를 작성하느냐에 따라 AI의 세계관과 행동 방식이 달라집니다.
• 좋은 AI를 원한다면, 먼저 윤리적인 사용자가 되어야 합니다.

---

2편: “차별하지 않는 AI는 어떻게 만들까?”
— 편향된 데이터, 무심한 프롬프트가 만든 불편한 진실들