machine learning1 [XAI] Counterfactual Explanations Counterfactual Explanations이란? Counterfactual Explanations에 대한 설명은 유튜브 링크에서 잘 설명해주고 있다. 해당 포스트의 설명도 이 영상에서 많이 참고하여 작성되었다😎 Explainable AI (XAI)의 목적은 Black box인 AI 모델이 어떤 방식으로 동작을 했는지 설명하는 것이다. 그중 Counterfactual Explanation은 "만약 OO이 달라졌으면 결과가 어떻게 달라졌을까?"라는 가정을 통해서 AI 모델을 설명하게 된다. 예시를 하나 들어보자, 여러 feature (몸무게, 나이, 성별 등등)로 구성된 뇌졸중 데이터를 머신러닝 모델에 학습을 했다. 어떤 한 데이터에 대해서 머신러닝 모델은 90% 확률로 뇌졸중이라고 판단을 내렸다. .. 2024. 1. 22. 이전 1 다음
