Image created by DALL-E
생성형 AI(Generative AI)란, 대규모 데이터와 패턴을 학습하고 기존의 데이터를 활용하여 이용자의 요구에 따라 텍스트, 이미지, 비디오, 음악 코딩 등 새로운 결과를 만들어 내는 인공지능 기술입니다. 급속히 발전하고 있는 생성형 AI는 점점 더 많은 분야에서 활용되고 있으며 동시에 다양한 연구 윤리 이슈를 생성하고 있습니다.
연구 윤리란, 연구자가 연구 수행의 전 과정에서 알고 실천해야 할 가치나 규범으로서 연구의 전 과정(제안, 계획, 수행, 보고, 검토, 확산 등)에서 연구의 핵심 가치인 객관성, 정직성, 개방성, 공정성, 책무성, 관리 등을 지켜나가는 것을 말합니다.
"연구자들은 변화하는 시대에 맞게 학술 연구를 함에 있어 새로운 기술(AI)을 활용하여 연구 효율을 상향시키는 동시에, 연구 윤리를 지키며 책임 있는 AI 사용을 해야 합니다."
출처: 한국연구재단, 2023년 대학 교원 연구윤리 인식 수준 조사
· 데이터 학습 : 텍스트, 이미지, 소리 등 대규모 데이터셋을 통해 패턴 인식
· 딥러닝 모델 : 인공 신경망을 통해 데이터 패턴을 학습하는 기계 학습 모델
- GAN(Generative Adversarial Networks): 실제에 가까운 이미지나 데이터 생성
- VAE(Variational Autoencoders): 인공지능이 생성한 이미지를 기반으로 최종 픽셀을 출력
- 트랜스포머(Transformers): 텍스트 간의 정보를 이해하고 분석
· 데이터 생성 : 학습된 모델이 새로운 데이터를 생성 (텍스트, 이미지, 음성 등 다양한 형식으로 생성 가능)
· LLM(대규모 언어 모델) : 거대한 신경망 기반의 언어 모델로 자연어 처리 작업(텍스트 생성, 번역, 요약 등) 수행
· Hallucination : AI 모델이 불완전한 학습 데이터, 모델의 과잉 일반화로 오류 또는 거짓 내용을 생성하는 현상
· AI Detector : AI가 생성한 콘텐츠를 식별하는 도구(가짜 뉴스 탐지, 학술 논문의 표절 검사, AI 이미지 판별)
· RAG (Retrieval-Augmented Generation) : 정보 검색(Retrieval) 결과를 기반으로 텍스트 생성(Generation)
· CUA (Conversational User Agent) : 자연어 대화를 통해 질문 응답, 명령 처리 등 상호작용하는 AI 시스템
· STaR (Self-Taught Reasoner) : AI가 자체 생성한 데이터 재학습을 통한 논리적 추론 능력 향상 기법
· Fine-tuning : 사전 학습된 모델을 특정 작업이나 도메인에 맞게 추가 학습시키는 과정
· 프롬프트 : AI 모델이 반응하거나 작업을 수행할 수 있도록 사용자가 제공하는 입력이나 지시문
(참고) 생성형 AI 도구 목록
| 일반검색 | 학술검색 | AI Detector | Paraphrasing | Chat with PDF | Image Gen-AI | 무료버전 | |
|---|---|---|---|---|---|---|---|
| Chat GPT | O | O | |||||
| Gemini | O | O | |||||
| Copilot | O | O | |||||
| Perplexity | O | O | |||||
| You.com | O | O | O | O | |||
| Futurepedia | O | O | O | ||||
| Consensus AI | O | O | |||||
| Paperpal | O | O | O | O | |||
| SCIPACE | O | O | |||||
| Scite | O | 무료 체험 | |||||
| Keenious | O | O | |||||
| GPT Zero | O | O | |||||
| Quillbot | O | O | O | ||||
| ChatPDF | O | O | |||||
| Claude ai | O | O | |||||
| Eplainpaper | O | O | |||||
| Studyfetch | O | O |
Figure1. Researchers most commonly report benefit from AI through:
Oxford University Press(OUP)에서 2024년 3~4월에 학술 연구자들을 대상으로 실시한 설문조사에 따르면 연구자들은 다음과 같은 영역에서 AI가 연구에 도움이 되었다고 응답했습니다.
Figure2. how AI could help with analyisis:
또한, 학술 연구와 관련하여 AI에 대해 가장 흥미를 느끼고 기대하는 부분은 다음과 같았습니다.
출처: OUP, Researchers and AI survey findings, 2024.4.
Image created by DALL-E
AI는 연구 환경에 다음과 같은 변화를 가져오고 있습니다.
AI 도구 사용량 증가
많은 연구자들이 AI를 다양한 연구 과정에서 사용하고 있습니다. 주로 챗봇 도구와 번역 기능이 사용되고 있으며, 선행 연구 탐색과 작성 단계에서 많이 활용됩니다.
효율성 향상
AI를 사용함으로써 연구자들은 작업 시간을 줄이고, 더욱 효율적으로 연구를 진행할 수 있게 되었습니다. 연구 과제 발견에서부터 아이디어 편집 및 요약 작업에 이르기까지 AI는 연구의 생산성을 높이는 역할을 합니다.
비판적 사고 감소에 대한 우려 증가
일부 연구자들은 AI가 인간의 비판적 사고력을 약화시키고, 연구 품질에 부정적인 영향을 미칠 수 있다는 우려를 가지고 있습니다. 특히, AI가 연구자의 역할을 완전히 대체할 가능성에 대한 경계심이 존재합니다.
분석 작업에서의 AI 역할 확대
많은 연구자들은 AI가 대규모 데이터 세트 분석과 같은 복잡한 작업에서 큰 도움을 주기를 기대하고 있습니다. 향후 AI는 복잡한 데이터를 처리하고 분석하는 데 더욱 중요한 역할을 맡게 될 것입니다.
지식 탐색과 자료 발굴 지원
AI는 연구에 필요한 중요한 정보를 탐색하고 정리하는 데 도움을 주며, 이 과정에 소요되는 시간을 절약해줍니다.
AI 정책 필요성
다수의 연구 기관에서는 아직 AI 활용에 관한 명확한 정책을 도입하지 않고 있습니다. 연구자들은 이러한 불확실성 속에서 AI 도구를 사용하거나 극히 제한된 범위 내에서만 사용할 수밖에 없습니다.
AI와 연구 활동 | AI와 연구·출판 윤리 | AI 도구의 활용 | 논문 작성 시 AI 관련 도구