English version:

인지과학에 대해서 개괄적으로 다룹니다. 본 포스팅의 많은 부분은 책 <인지과학: 학문 간 융합의 원리와 응용>¹를 참고했습니다.

인지과학이란 무엇인가?

인지과학은 나(인간)에 대한 물음에서 출발합니다. “나의 마음이 어떻게 작동하는가?”라는 질문이 인지과학의 핵심입니다. (동물, 인간, 혹은 기계의) 마음과 지능에 대해서 던질 수 있는 모든 질문이 인지과학이 다루는 영역입니다. 하나의 학문이 이에 대한 답을 내릴 수는 없고, 자연과학과 인문사회과학을 넘나드는 통섭적인 접근법을 통해서 ‘나의 마음’에 대해 조금씩 알아갈 수 있습니다.

인지과학은 (1) 두뇌, (2) 마음, (3) 인공물의 정수인 컴퓨터, 그리고 (4) 기타 인공물 (언어, 경제, 행정체제 등의 소프트 인공물과 로봇, 스마트폰 등 각종 하드웨어 인공물 포함) 사이의 정보적, 인지적 (지식 형성 및 사용적) 관계를 다루는 다학문적, 학제적 과학이라고 정의할 수 있습니다.

정보처리 패러다임

인지과학은 출발부터 인간의 마음과 그 물리적 구현체인 두뇌 그리고 컴퓨터를 바라보는 과학적 틀로써 정보처리 패러다임을 사용합니다. 인지과학의 정보처리 패러다임은 마음을 하나의 정보처리체계라고 상정하고, 정보처리체계로서의 마음의 작용을 감각, 지각, 학습, 기억, 언어, 사고, 정서 등의 여러 과정으로 나눈 다음, 각 과정에서 어떠한 정보처리가 일어나는가, 각 과정들은 어떻게 상호작용하는가를 묻고, 다음으로 각 과정에서 어떠한 정보(지식) 구조, 즉 표상 구조가 관련되는가를 규명하려 합니다.

정보처리 패러다임의 두 가지 중요한 개념은 계산주의와 표상주의 입니다.

• 계산주의(computation): 정보를 처리, 활용, 변환하는 과정을 계산이라 하며 마음과 컴퓨터의 계산 과정을 밝히는 활동이 정보처리 패러다임입니다.

정보(information)란? 정보이론에서의 ‘정보’와 정보처리적 접근에서 ‘정보’는 정의가 다릅니다. 정보이론에서는 정보의 의미가 아니라 정보의 양을 다룹니다. 반면, 인지 현상을 표현할 때 말하는 정보는 일반적으로 메시지 의미의 개념(지식의 기본 단위)과 연관해서 ‘정보’라는 개념을 사용합니다.

• 표상주의(representation): 각종 데이터는 마음이나 컴퓨터에 표상의 형태로 저장되어 있다고 봅니다.

표상(representation)이란? 마음이 다루는 대상 자체를 그대로 다루는 것(presentation)이 아니라 이를 어떤 상징이나 형태로 재표현(re-)하여, 즉 추상화하여 이를 저장하고 활용합니다. 이렇게 대상에 대한 추상화된 내용을 표상(表象; representation)이라 합니다.

인지과정

인지과학이 다루는 앎의 과정(인지 과정;cognitive processes)은 여러 가지 있습니다. 위 그림은 2018년 한 논문이 주제별 트렌드를 조사한 결과입니다.²

제가 생각한 인지과정들은 아래와 같습니다.

• Sensation
• Perception
• Cognitive Control
• Attention
• Reward / Punishment
• Value
• Learning
• Homeostasis
• Memory
• Language
• Decision Making
• Knowledge
• Thinking
• Feeling / Emotion/ Affect
• Social Cognition
• 등등…

인지과학의 특성

1. 인지과학은 인간을, 마음을 정보처리 시스템으로 본다.
2. 정보처리 시스템의 기본 기능은 정보의 변환이라는 계산적 관점이 인지과학의 입장이다.
3. 정보처리 시스템은 표상(representation)을 다룬다는 표상주의가 인지과학의 또 다른 기본 입장이다.
4. 정보처리 시스템의 기초는 신경계라는 신경과학적 기초를 강조한다.
5. 인지과학적 정보처리 시스템은 다학문적 접근의 필요성을 강조한다.

인지과학의 접근 수준

인간의 복잡한 심적 현상을 설명할 때 어떠한 수준으로 접근하는가는 연구자마다 다를 수 있습니다. 접근(설명) 수준에 대한 이론적 틀은 계산 시각 이론을 제안한 데이비드 마의 생각(Marr’s Three Levels)에 기반합니다. ³

이 세 수준은 서로 독립적입니다. 즉, 하나의 설명 수준이 다른 수준으로 반드시 환원될 수 있다는 것이 아니라 3가지 설명 수준이 모두 다 필요할 수 있으며 상보적 역할을 할 수 있다는 의미입니다.

인지과학의 역사

인지과학은 1950년대 시작된 이래로 계속 변화해왔습니다.⁴

그림 출처: Anna Riedl 홈페이지

초년기 1기: 1950년대 말 - 1970년대 초

1950년대부터 서구에서 기초과학으로 자리 잡은 인지과학은 하나의 과학혁명(Cognitive Revolution)이었습니다. 초기에 튜링기계를 중심으로한 계산주의가 나타나면서 정보처리 패러다임이 주목받기 시작했습니다. 인지과학 출발의 핵심은 “컴퓨터의 계산 과정과 인간 마음의 작동 과정이 정보처리라는 공통적인 개념으로 묶어서 생각할 수 있다.”입니다. 즉, 인간과 컴퓨터는 하드웨어가 다르지만 같은 종류의 시스템이라고 봅니다.

이 무렵 등장하여 직간접적으로 인지과학에 영향을 끼친 개념적(이론적) 틀과 경험적 연구들은 아래와 같습니다.

• 1936, 앨런 튜링의 자동기계 이론 (Automata)
• 1943, 워렌 맥컬럭와 월터 피츠의 신경망 계산 모델
• 1945, 폰 노이만의 컴퓨터 구조 이론 (Von Neumann architecture)
• 1948, 클로드 섀넌의 정보 이론 (Information Theory)
• 1948, 노버트 위너의 사이버네틱스 이론 (Cybernetics)
• 1957, 허버트 사이먼과 앨런 뉴웰의 범용목적 기호(상징) 조작체계 이론 (General purpose symbol manipulation system)
• 1957, 노엄 촘스키의 변형문법 언어 이론 (Syntactic Structures)
• 인지심리학적 연구의 실험 결과들
• 두뇌 손상자들에 대한 신경학적 연구 및 단일 세포 활동 기록 연구
• 새로운 과학철학과 심리철학의 대두

이러한 개념적 틀과 경험적 연구결과는 각기 다르게 등장해 통합되지 않다가 1956년 MIT에서 개최된 정보 이론 심포지엄(Symposium on information theory)을 기점으로 하나의 새로운 과학적 패러다임이 됩니다. 같은 해 여름 다트머스 대학에서 열린 학술대회(The Dartmouth Workshop)에서는 Artificial Intelligence(AI)라는 명칭이 존 매카시에 의해 최초로 공식적으로 사용됐으며, 이는 인공지능 분야의 본격적인 출발을 알렸습니다.

초년기 2기: 1970년대 말 - 1980년대 초

인지과학이라는 틀 안에서 다학제적인 아이디어 교환이 컴퓨터라는 정보처리기계를 중심으로 계속 이어졌습니다. 또한, 1967년 율릭 나이서가 ‘인지심리학’이라는 명칭의 새로운 학문을 정립합니다. 그밖에 언어학, 인공지능학, 철학 등 여러 학문에서 여러 이론과 틀이 제안됩니다. 다만, 이 시기 신경과학에서는 분자생물학을 중심으로 매우 작은 단위의 연구가 떠오르며 인지과학과는 거리를 뒀습니다.

청년기 1기: 1980년대 중

컴퓨터의 계산 과정처럼 바라보던 마음의 작동 과정이 1980년대부터 ‘뇌’의 작동 과정으로 바라보기 시작합니다. (생명체의 하드웨어인) 뇌와 신경계를 기초로 한 신경망 이론이 나오고 신경과학과의 연결점이 생겼습니다. 인공신경망(artificial neural networks) 분야의 기념비적인 논문이 1986년에 출간된건 우연이 아니었을 겁니다.⁵ 이 시기 연결주의에 의한 인지과학이 새로운 움직임으로 등장합니다.

청년기 2기: 1980년대 말 - 1990년대 초

인지과학은 더더욱 뇌 연구를 중심으로 발전했고 인지신경과학(Cognitive Neuroscience)이라는 분야가 정식으로 출범합니다. 현재까지도 뇌의 기능적 활동을 측정하는 도구로 많이 쓰이는 functional magnetic resonance imaging (fMRI)에 대한 탄생도 이 무렵입니다.⁶ 살아 있는 사람이 특정 과제를 수행할 때 뇌의 어느 부위가 활성화되는지를 측정할 수 있는 도구가 개발됨으로써 인지신경과학의 발전이 가속화되기 시작했습니다.

신경과학과 더불어 진화적 접근이 시도된 시기이기도 합니다. 다윈의 자연선택 이론에 근거하여, 행동 생물학 종간 비교 연구 및 뇌 모델링과 진화 연구, 유전자 알고리즘의 창안, 진화 과정의 컴퓨터 시뮬레이션 연구 등이 나타납니다.

청년기 3기: 1990년대 중

인지과학의 초년기, 청년기에 배척했던 ‘의식’ 및 ‘정서’에 대한 연구도 이 시기에 부활합니다. 또한, 문화사회적 환경 요인에 의해서 인간 마음이 변한다는 개념이 생깁니다. 이는 기존 인지신경과학이나 명제 중심의 논리적 체계에 의해서만 마음을 설명하던 접근법의 한계를 벗어나려는 시도였습니다. 마음과 환경의 상호작용을 강조함으로써 인간의 인지구조가 환경과 뗄 수 없음을 밝히기 시작합니다.

청년기 4기: 2000년대 이후

물리학의 동역학적 접근이 도입되어 정적인 시간상에서의 정보처리를 강조한 과거의 전통적 인지주의에 반하여 흘러가는 시간 축에서의 정보처리 특성과 표상의 역동적 변화를 강조한 동역학체계적(Dynamical Systems) 접근이 주목받기 시작했습니다. 또한, 인지신경과학적 접근과 진화이론적 접근뿐만 아니라 몸에 바탕한 마음을 강조한 체화적(Embodied) 접근도 인지과학의 새로운 패러다임으로 부상하는 중입니다.

인지과학의 주요 하위 분야

• 철학: 인식론, 심신론, 과학철학, 논리학
• 심리학: 연구 주제, 실험법, 마음, 인지, 인지공학
• 신경과학: 뇌(신경계) 연구, 뇌/이상 손상 현상, 신경 구조와 과정
• 인공지능학: 디지털 컴퓨터, 컴퓨터 유추, 저장된 프로그래밍 개념, 프로그래밍
• 언어학: 형식 이론(formal theory), 내적 규칙 계산 언어학, 심적 능력
• 인류학: 종/문화(사회)적 결정요인, 진화론

이 외에도 수학, 물리학, 커뮤니케이션학, 사회학도 인지과학의 하위 분야로 볼 수 있습니다. 더 넓게 보면 전기공학, 로보틱스, 정보과학, 의학, 생물학, 건축학, 음악학, 문학, 예술학, 미학, 정치학, 경제학, 행정학, 교육학, 컴퓨터공학까지도 확장할 수 있습니다.

인지과학 방법론

인지과학 연구방법은 여러 학문들이 기존에 연구하던 방법들이 모두 사용됩니다.

• 철학: 논리적, 형식적 분석
• 심리학: 실험법, 시뮬레이션, 자연관찰법
• 신경과학: 신경해부법, 뇌 손상법, 뇌영상법
• 인공지능학: 시뮬레이션, 언어보고 분석법
• 언어학: 형식적 분석, 자연관찰법, 실험법
• 인류학: 민생방법, 자연관찰법

(1) 실험법

• 반응시간 법(reaction time methods): 인지심리학의 중심 방법으로서 인지적 과제가 질적 또는 양적으로 달라짐에 따라 정보처리 시간(속도)이 달라진다고 보고, 문제 상황이 조금씩 달라짐에 따라 일어나는 반응시간의 차이에서 특정 정보처리 과정/구조가 존재하고 관여되었으며 진행되는가, 그리고 그 특성이 다른 과정이나 구조와 어떻게 다른가를 탐색하는 방법입니다.
• 정신물리학 방법(psychophysics)
  • 고전적 정신물리학적 방법: 물리적 자극의 크기나 강도가 변함에 따라 그에 대한 감각, 지각되는 정도, 즉 심리적 변화 정도가 어떻게 달라지는가를 탐색하는 방법입니다. 독일 심리학자 페히너가 정신물리학 방법을 탄생시켰으며 문턱값(threshold)을 주로 측정합니다.
  • 신호탐지 이론(signal detection theory): 인간의 자극에 대한 감각 반응은 단순히 자극 크기의 함수로 결정되는 것이 아니라, 인간의 주관적 결정과정이 개입된다는 것이 신호탐지 이론의 기본입장입니다. 자극 정보 수집 단계와 이를 평가하고 반응을 결정하는 단계라는 2 단계로 바라봅니다.

(2) 컴퓨터 시뮬레이션

컴퓨터 시뮬레이션에서는 개인의 외적 반응과 내성 보고들을 근거로 하여 어떤 심리적 과정의 세부 정보처리 연산들을 논리적, 이성적으로 추론하고 명세화하여 분석하며, 이를 프로그램으로 바꾸어 컴퓨터에 넣었을 때 컴퓨터가 인간과 동일하게 행동하는가(출력을 내어놓는가)를 관찰함으로써 그 프로그램이, 즉 연구자가 상정한 정보처리 연산(operations)이 이론적으로 타당한지를 검증합니다.

(3) 언어 보고 분석법 (Protocol analysis)

19세기 마음에 대한 과학적 연구를 시작하던 시기에는 외부의 관찰뿐만 아니라 피험자들이 주관적으로 느낀 내적 경험을 보고한 데이터도 분석에 활용했습니다. 하지만, 이러한 내성법은 비과학적이라는 이유로 행동주의 심리학자들에 의해 거부됐으나 20세기 정보처리 패러다임 이후 다시 수정되어 부활했습니다. 내성법의 일종인 언어 보고 분석법은 어떤 과제를 수행하는 피험자의 과제 수행 과정에 대한 내성 언어 보고를 분석하는 방법입니다. 이 방법은 자극을 먼저 제시한 후, 마음 속에서 일어나는 정보처리 내용 그대로를 언어적으로 보고하도록 합니다.

(4) 인지신경과학적 방법

신경과학 분야에서 사용하는 측정도구에 대한 공간해상도(spatial resolution)와 시간해상도(temporal resolution)을 한눈에 비교한 그림입니다. 참고로 봐주세요.⁷

(a) 뇌영상 방법 (neuroimaging)

전기적 신호의 영상화

뇌 구조 및 기능의 영상화

(b) 뇌자극 방법 (brain stimulation)

(c) 신경심리검사 (neuropsychological tests)

심리검사의 일종으로 뇌 손상으로 인해 인지 및 행동 상의 문제가 발생하였는지 유무와 그 정도를 평가하는 방법입니다. 임상환경에서 주로 사용됩니다.

(d) 신경과정의 계산적 모델링 (computational modeling)

이 접근 방법은 뇌가 본질적으로 뉴런이라는 단순한 요소가 많이 모여 병렬처리 시스템적으로 연결되어 작동한다는 입장입니다. 생물학적, 기능적으로 신경세포 또는 신경 시스템의 생리적 메커니즘과 변화를 수식을 통해 기술하며 수학적인 모델링하는 것에 초점을 둡니다. 상위 인지 과정보다는 주로 인간과 동물의 주의, 감각, 지각, 기초 기억 과정 등의 하위 인지 과정에 관심을 두며 이러한 인지 과정이 어떻게 일어나는지 시뮬레이션 방법을 사용하여 분석하고 모델링합니다.

(5) 비실험적 방법

• 사례 연구법: 극단적인 인지현상을 보여주는 사례에 대한 종단적 연구입니다.
• 자연관찰법: 상황에 개입하거나 통제하지 않고 실험실이 아닌 자연 상황에서 있는 그대로 관찰하여 분석하는 방법입니다.
• 담화분석법: 대화를 나누며 말하는 문장 속에 드러난 특징을 분석하는 방법입니다.

인지과학의 미래

인지과학이 묻고 있는 ‘나’에 대한 질문을 미래에는 어느 수준까지 답할 수 있을까요? 최근 인공지능의 급격한 발달은 어느 방향을 향해 달려가고 있고 향후 우리에게 어떤 영향을 끼칠까요?

• UX/UI (User eXperience / User Interface): 인간의 인지, 정서, 동기 특성을 통합하여 소프트웨어 및 하드웨어 개발에 반영
• Robotics: 추상적인 인공지능 시스템이 아니라 구체적인 몸을 지닌 (embodied) 지능 시스템 개발
• BCI (Brain-Computer Interface): 컴퓨터를 뇌에 연결하여 뇌의 기능을 보완 및 강화시키는 인터페이스 개발

한국어 버전:

This provides an overview of cognitive science. Many parts of this post refer to the book <Cognitive Science: Interdisciplinary Convergence and Applications>¹.

What is cognitive science?

Cognitive science originates from questions about the self, exploring how individual minds operate. All questions that can be asked about the mind and intelligence (of animals, humans, or machines) are the domain of cognitive science, highlighting the complexity and interdisciplinary nature of understanding cognition. It emphasizes that no single discipline can fully answer these profound questions. But, we can learn about the human mind one by one through an interdisciplinary approach that crosses the natural sciences, humanities, and social sciences.

Cognitive science explores the relationships between (1) the brain, (2) the mind, (3) technological innovations such as computers, and (4) other artifacts, including both tangible hardware like robots and smartphones, and intangible systems such as language, economy, and administrative structures. It is defined as a multidisciplinary and interdisciplinary field that examines the informational and cognitive aspects of knowledge formation and utilization.

Information processing paradigm

From the start, cognitive science has employed the information processing paradigm as a foundational scientific framework to examine the human mind, its physical manifestation in the brain, and the computational analogs found in computers. This paradigm assumes that the mind functions are an information processing system, engaging in a series of processes such as sensation, perception, learning, memory, language, thinking, and emotion. It inquires into the specific types of information processing that occur within these processes, how each process interacts, and aims to describe the underlying informational (knowledge) structures—or representational structures—that facilitate each process.

Two important concepts in the information processing paradigm are computationalism and representationalism.

• Computationalism: The process of processing, utilizing, and converting information is called computation. The information processing paradigm is the activity of uncovering the computational processes of the mind and computer.

What is information? The definitions of ‘information’ in information theory and ‘information’ in the information processing approach are different. Information theory deals with the amount of information, not the meaning of information. On the other hand, when expressing cognitive phenomena, the concept of ‘information’ is generally used in relation to the concept of message meaning (the basic unit of knowledge).

• Representationalism: It is believed that various data are stored in the form of representations in the mind or computer.

What is representation? Rather than treating the object itself as is (presentation), the mind re-expresses (re-) it in some symbol or form, that is, abstracts it and stores and utilizes it. This abstracted content about an object is called a representation.

cognitive processes

Cognitive processes covered by cognitive science are various. The figure above shows topics and trends in cognitive science.²

The representative cognitive processes I think are as follows.

• Sensation
• Perception
• Cognitive Control
• Attention
• Reward / Punishment
• Value
• Learning
• Homeostasis
• Memory
• Language
• Decision Making
• Knowledge
• Thinking
• Feeling / Emotion / Affect
• Social Cognition
• etc…

Characteristics of Cognitive Science

1. Cognitive science views humans and the mind as an information processing system.
2. Cognitive science’s position is that the basic function of an information processing system is the conversion of information.
3. Representationalism, which states that information processing systems deal with representations, is another basic position in cognitive science.
4. The foundation of information processing systems emphasizes the neuroscience foundation of the nervous system.
5. Cognitive scientific information processing systems emphasize the need for a multidisciplinary approach.

Levels of approach in cognitive science

The level of approach taken when explaining complex human mental phenomena may vary from researcher to researcher. The theoretical framework for access (explanation) levels is based on the ideas of David Marr (Marr’s Three Levels), who proposed a theory of computational vision. ³

These three levels are independent of each other. This does not mean that one level of explanation is necessarily reducible to another level, but rather that all three levels of explanation may be necessary and play complementary roles.

History of Cognitive Science

Cognitive science has continued to change since its inception in the 1950s.⁴

figure source: Anna Riedl website

Early Years 1: Late 1950s - Early 1970s

Cognitive science, which has become a basic science in the West since the 1950s, was a scientific revolution. With the emergence of computationalism centered on Turing machines, the information processing paradigm began to gain attention. The core of the starting point of cognitive science is that “the computational process of a computer and the operating process of the human mind can be considered as a group under the common concept of information processing.” In other words, humans and computers have different hardware, but they are considered the same type of system.

The conceptual (theoretical) frameworks and empirical studies that emerged around this time and directly or indirectly influenced cognitive science are as follows.

• 1936, Alan Turing’s Automata
• 1943, Warren McCulloch and Walter Pitts’ neural network computational model
• 1945, Von Neumann architecture
• 1948, Claude Shannon’s Information Theory
• 1948, Norbert Wiener’s Cybernetics
• 1957, Herbert Simon and Alan Newell’s general purpose symbol manipulation system theory
• 1957, Noam Chomsky’s Syntactic Structures
• Experimental results from cognitive psychological research
• Neurological studies and single cell activity recording studies in brain-injured people
• Emergence of new philosophy of science and philosophy of mind

These conceptual frameworks and empirical research results emerged differently and were not integrated, but became a new scientific paradigm starting with the Symposium on Information Theory held at MIT in 1956. At the Dartmouth Workshop held at Dartmouth College in the summer of the same year, the name Artificial Intelligence (AI) was first officially used by John McCarthy, marking the start of the field of artificial intelligence.

Early Years 2: Late 1970s - Early 1980s

Within the framework of cognitive science, multidisciplinary exchange of ideas continued centered around information processing machines called computers. Also, in 1967, Ulrik Neisser established a new discipline called ‘cognitive psychology’. In addition, various theories and frameworks are proposed in various disciplines such as linguistics, artificial intelligence, and philosophy. However, during this period, very small-scale research centered on molecular biology emerged in neuroscience and distanced itself from cognitive science.

Adolescence 1: Mid-1980s

From the 1980s, the mind’s operating process, which was once viewed as a computer’s calculation process, began to be viewed as the ‘brain’ operating process. Neural network theory based on the brain and nervous system (the hardware of living organisms) emerged and a connection with neuroscience emerged. It may not have been a coincidence that a landmark paper in the field of artificial neural networks was published in 1986.⁵ At this time, cognitive science based on connectionism emerged as a new movement.

Adolescence 2: Late 1980s - Early 1990s

Cognitive science further developed with a focus on brain research, and a field called Cognitive Neuroscience was officially launched. The development of functional magnetic resonance imaging (fMRI), which is still widely used today as a tool to measure functional activity of the brain, also began around this time.⁶ Advances in cognitive neuroscience began to accelerate with the development of tools to measure which parts of the brain are activated when living people perform specific tasks.

It was also a time when evolutionary approaches were attempted along with neuroscience. Based on Darwin’s theory of natural selection, cross-species research in behavioral biology, brain modeling and evolution research, creation of genetic algorithms, and computer simulation research of the evolutionary process appear.

Adolescence 3: Mid-1990s

Research on ‘consciousness’ and ‘emotion’, which had been rejected in the early years of cognitive science, is also being revived during this period. Additionally, the concept arises that the human mind changes due to cultural, social and environmental factors. This began with the goal of breaking away from the limitations of approaches that explained the mind only through existing cognitive neuroscience or proposition-centered logical systems. By emphasizing the interaction between mind and environment, we begin to reveal that human cognitive structure is inseparable from the environment.

Adolescence 4: After 2000

With the introduction of the dynamical approach in physics, the Dynamical Systems approach, which emphasizes the dynamic changes in information processing characteristics and representations on the flowing time axis, is attracting attention, contrary to the traditional cognitivism of the past that emphasized information processing in static time. In addition, cognitive neuroscientific and evolutionary approaches, as well as embodied approaches that emphasize the mind based on the body, are emerging as new paradigms in cognitive science.

Major subfields of cognitive science

• Philosophy: epistemology, mental theory, philosophy of science, logic
• Psychology: Research topics, experimental methods, mind, cognition, cognitive engineering
• Neuroscience: Study of the brain (nervous system), brain/abnormal injury phenomena, neural structures and processes
• Artificial intelligence: digital computers, computer analogies, stored programming concepts, programming
• Linguistics: formal theory, internal rule computational linguistics, mental abilities
• Anthropology: Species/Cultural (Social) Determinants, Evolutionary Theory

In addition, mathematics, physics, communication studies, and sociology can also be considered subfields of cognitive science. More broadly, it can be expanded to include electrical engineering, robotics, information science, medicine, biology, architecture, music, literature, art, aesthetics, political science, economics, public administration, education, and computer engineering.

Cognitive Science Methodology

Cognitive science research methods use all existing research methods from various disciplines.

• Philosophy: logical and formal analysis
• Psychology: Experimental methods, simulations, natural observation methods
• Neuroscience: neuroanatomy, brain injury, brain imaging
• Artificial Intelligence: Simulation, language reporting analysis methods
• Linguistics: formal analysis, natural observation, experimental methods
• Anthropology: people’s livelihood methods, natural observation methods

(1) Experimental method

• Reaction time methods: As a central method in cognitive psychology, it is believed that information processing time (speed) changes as the cognitive task changes qualitatively or quantitatively, and it is determined from the difference in reaction time that occurs as the problem situation slightly changes. It is a method of exploring whether information processing processes/structures exist, are involved, and progress, and how their characteristics differ from other processes or structures.
• Psychophysics
  • Classic psychophysical method: This is a method of exploring how the sensation and perceived degree of a physical stimulus, that is, the degree of psychological change, changes as the size or intensity of the physical stimulus changes. German psychologist Fechner created the psychophysical method, which primarily measures thresholds.
  • Signal detection theory: The basic position of signal detection theory is that the sensory response to a human stimulus is not simply determined as a function of the size of the stimulus, but rather involves the human subjective decision process. We look at it in two stages: (1) collecting stimulus information and (2) evaluating it and deciding on a response.

(2) Computer simulation

In computer simulations, the detailed information processing operations of certain psychological processes are logically and rationally inferred, specified, and analyzed based on the individual’s external reactions and introspection reports. When this is converted into a program and inserted into a computer, does the computer behave the same as a human? By observing (whether output is produced), it is verified whether the program, that is, the information processing operations assumed by the researcher, are theoretically sound.

(3) Protocol analysis

When scientific research on the mind began in the 19th century, not only external observations but also data in which subjects reported their subjective inner experiences were used for analysis. However, this introspection method was rejected by behaviorist psychologists on the grounds that it was unscientific, but was revised and revived after the information processing paradigm of the 20th century. Verbal report analysis, a type of introspection method, is a method of analyzing introspective verbal reports about the process of performing a task by a subject performing a certain task. This method first presents a stimulus and then verbally reports the information processing that occurs in the mind.

(4) Cognitive neuroscience methods

This is an illustration comparing spatial resolution and temporal resolution at a glance for a measurement tool used in neuroscience.⁷

(a) Neuroimaging

Imaging of electrical signals

Imaging of brain structure and function

(b) Brain stimulation method

(c) Neuropsychological tests

A type of psychological test that evaluates whether and to what extent cognitive and behavioral problems have occurred due to brain damage. It is mainly used in clinical settings.

(d) Computational modeling of neural processes

This approach holds that the brain is essentially made up of many simple elements called neurons, which work in parallel and systematically connected. Biologically and functionally, the physiological mechanisms and changes of nerve cells or nervous systems are described through formulas and focus on mathematical modeling. Rather than higher-level cognitive processes, we are mainly interested in lower-level cognitive processes such as attention, sensation, perception, and basic memory processes in humans and animals, and use simulation methods to analyze and model how these cognitive processes occur.

(5) Non-experimental methods

• Case study method: A longitudinal study of cases that demonstrate extreme cognitive phenomena.
• Natural observation method: This is a method of observing and analyzing things as they are in natural situations, not in a laboratory, without intervening or controlling the situation.
• Discourse analysis: This is a method of analyzing the characteristics revealed in sentences spoken during conversation.

The future of cognitive science

To what extent will cognitive science be able to answer questions about ‘me’ in the future? In which direction is the recent rapid development of artificial intelligence heading and what impact will it have on us in the future?

• UX/UI (User eXperience / User Interface): Integrating human cognitive, emotional, and motivational characteristics and reflecting them in software and hardware development
• Robotics: Developing a concrete, embodied intelligence system rather than an abstract artificial intelligence system
• BCI (Brain-Computer Interface): Development of an interface that complements and strengthens brain functions by connecting the computer to the brain

System Preferences

Mission Control

• Mission Control에서 Automatically rearrance Spaces based on most recent use를 체크 해제한다.
  • 미션 컨트롤 창 순서가 의도치 않게 바뀌는 경우를 막는다.

Language & Region

• Language & Region에서 Preferred languages의 순서를 English 최상위로 설정한다. 드래그로 순서 조절 가능하다.
  • 간혹 locale 설정 때문에 오류가 발생하는 걸 방지해주고 영어 오류 메시지가 떠서 구글 검색에 용이하다.

Security & Privacy

• Security & Privacy의 General 탭에 가면 Require password가 있다. 이를 5초로 설정했다.
  • 잠자기 모드나 화면 보호기가 켜지면 패스워드를 요구하기까지 걸리는 시간을 의미한다.
• Show a message when the screen is locked에서 Set Lock Message에다가 연락처와 이름 등을 작성한다.
  • 혹여 분실했을 경우 연락받을 수 있게 하기 위함이다.

Keyboard

• Keyboard에서 Text 탭에 가서 모든 자동변경 옵션을 체크 해제한다.
  • Correct spelling automatically
  • Capitalize words automatically
  • Add period with double-space
  • Use smart quotes and dashes
  • 코드 작성 및 붙여넣기 할 때 컴퓨터가 의도치 않게 변경하는걸 방지한다.
• Keyboard에서 Shortcut 탭에 가서 Use Keyboard navigation to move focust between controls을 체크한다.
  • 링크나 버튼을 마우스 대신 키보드의 Tab과 Shift+Tab으로 이동할 수 있다.

Trackpad

• Trackpad의 Point & Click 탭에서 Tab to click을 체크한다.
  • 트랙패드에서 힘줘서 누르지 않고 살짝 터치만해도 클릭된다.

Accessibility

• Accessibility의 Pointer Control로 가면 Mouse & Trackpad 탭이 있는데 여기서 Trackpad Options…에 Enable dragging three finger drag 설정을 해준다.
  • 드래그 시 트랙패드를 계속 누를 필요 없고 세 손가락으로 할 수 있다.

Finder Preferences

Finder 앱을 열고 Cmd + ,를 누르면 Finder Preference 창이 열린다.

Finder 폴더 기본 설정

• General 탭에서 New Finder windows show를 home directory로 설정한다.
  • Finder를 새로 킬 때마다 홈디렉토리가 열린다.

파일 확장자 표시

• Advanced 탭에서 Show all filename extensions를 체크한다.

다운로드 폴더 설정

Downloads 폴더에서 Cmd + J를 누른다.

• Group By는 Date Added, Sort By는 Name으로 설정
  • 파일목록을 저장한 날짜별로 그룹화하고 그룹 내에서는 파일 이름으로 정렬한다.

HomeBrew

HomeBrew는 프로그램 패키지를 관리해주는 프로그램이다. 각종 패키지를 다운로드받기 위해 먼저 HomeBrew를 다운로드 받는다.

Homebrew 홈페이지 / brew 명령어 / brew 패키지

아래의 명령어를 터미널에 입력해서 설치한다.

$ /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)"

잘 설치됐는지 확인한다.

# brew test
$ brew doctor
Your system is ready to brew.

Xcode

Homebrew를 설치하면 자동으로 Xcode가 설치된다.

macOS는 gcc, make와 같은 컴파일 도구가 설치되어 있지 않아 명령어 도구(Command Line Tools)를 설치해야 한다. Xcode 전체를 설치할 필요 없고 명령어 도구만 따로 설치한다. Xcode 홈페이지

아래는 혹~시 Homebrew 설치 안해을 경우 따로 Xcode를 설치하는 방법이다.

$ xcode-select --install

잘 설치됐는지 확인한다.

# gcc test
$ gcc
clang: error: no input files

git

macOS에 기본으로 git이 설치되어 있지만, 최신버전으로 새롭게 설치해줘야 한다. 이때도 brew를 이용한다. 더불어 Git Large File Storage의 약자인 git-lfs도 같이 설치한다. 이거는 용량이 큰 바이너리 파일을 git으로 관리할 때 유용하다.

$ brew install git git-lfs

설치가 완료되면 개인정보 설정과 한글 파일명 처리를 위한 추가설정을 해준다.

$ git config --global user.name "Your Name"
$ git config --global user.email "you@your-domain.com"
$ git config --global core.precomposeunicode true
$ git config --global core.quotepath false

zsh

macOS Catalina 부터는 기본 shell이 zsh이다. 이전 OS버전에서는 기본이 bash이었다. zsh는 bash에 추가적인 명령어를 추가하고 편의성을 개선한 새로운 shell이다. 한가지 예로 git 폴더 상태를 관리해주고 터미널의 상태를 나타내주는 기능이 있다.

현재 shell이 뭔지는 아래 명령어를 치면 나온다.

$ echo $0

여기선 zsh를 사용할 것이다.

oh my zsh

oh my zsh는 zsh를 좀더 편리하게 이용하게 도와주는 일종의 zsh용 plugin이다. oh my zsh를 설치하면 zsh도 같이 설치된다.

# curl을 먼저 설치한다.
$ brew install curl
# oh my zsh를 설치한다.
$ sh -c "$(curl -fsSL https://raw.github.com/robbyrussell/oh-my-zsh/master/tools/install.sh)"

설치가 끝나면 ~/.oh-my-zsh에서 기본 테마와 플러그인을 확인할 수 있다.

oh my zsh가 제공하는 기본 plugin은 여기 나와있다.

추가 plugin 설치

기본 plugin 외에 추가적으로 plugin을 설치한다.

• zsh-syntax-highlighting: 명령어 강조
• zsh-autosuggestions: 자동완성
• alias-tips: 정의한 alias를 알려주는 도구
• fzf: 강력하고 빠른 fuzzy finder 도구이다. 원하는 파일이나 히스토리를 찾아준다.
  • ctrl+T: 하위 디렉토리 파일 검색
  • ctrl+R: 히스토리 검색
  • esc+C: 하위 디렉토리 검색 후 이동
• fasd: 사용빈도가 높은 파일 또는 디렉토리 검색을 편하게 해준다.
  • 명령어를 사용하기 위해서 어느정도 디렉토리 이동하고 파일 열고 해야한다. 히스토리가 쌓이면 사용빈도에 따라 검색결과가 나온다.
  • z: 디렉토리 이동
  • s: 파일/디렉토리 검색
• asdf vm: 각종 언어나 프로그램(nodejs, ruby, python 등..)의 버전을 통합적으로 관리해주는 도구
  • asdf plugin list: 설치된 plugin 목록
  • asdf plugin add <name> [<git-ref>]: plugin 설치
  • asdf list all <name>: 플러그인 설치 가능한 버전 확인
  • asdf install <name> <version>: 플러그인 버전 설치
  • asdf local <name> <version>: 현재 경로 기준 버전 사용 설정
  • asdf global <name> <version>: 전체 버전 사용 설정
• tmux: Terminal MUltipleXer의 약자로 터미널에서 여러 개의 창을 쓸 때, 리눅스 원격 연결이 꺼져도 코드가 돌아가게 할 때 사용한다.
  • 별도의 포스트로 자세히 다룰 예정이다.

# zsh-syntax-highlighting
$ git clone https://github.com/zsh-users/zsh-syntax-highlighting.git ${ZSH_CUSTOM:-~/.oh-my-zsh/custom}/plugins/zsh-syntax-highlighting
# zsh-autosuggestions
$ git clone git://github.com/zsh-users/zsh-autosuggestions $ZSH_CUSTOM/plugins/zsh-autosuggestions
# alias-tips
$ cd ${ZSH_CUSTOM1:-$ZSH/custom}/plugins # Go to your custom plugins folder
$ git clone https://github.com/djui/alias-tips.git
# fzf
$ brew install fzf
# fasd
$ brew install fasd
# asdf
$ brew install asdf
# tmux
$ brew install tmux

plugin을 설치한 후에는 반드시 ~/.zshrc파일에 설정값을 기입해줘야 한다. 파일을 열고 plugins 항목에 플러그인을 추가한다.

plugins=(
  ...
  zsh-syntax-highlighting
  zsh-autosuggestions
  alias-tips
  fzf
  fasd
  asdf
  tmux
  ...
)

설정파일을 수정한 후에는 터미널을 재시작하거나 source ~/.zshrc 명령어를 실행하여 설정을 다시 불러와야 한다. 이제 명령어를 입력할 때 존재하지 않는 명령어는 빨간색으로 뜨고 한번 입력했던 명령어는 회색으로 나타나는 걸 확인할 수 있다.

oh my zsh 팁

1. 명령어가 기억나지 않으면 tab키 누른다.
2. cd ../.. 대신 ..., ...., ....., …
3. 단축명령어 - git status => gst, git pull => gl 등등 여러가지 있다.
   • 다양한 단축명령어

zsh theme

zsh의 터미널을 더욱 꾸며기 theme을 설정해줘야한다. oh my zsh에서 제공하는 zsh theme 목록은 여기에서 확인할 수 있다. 예전에는 Powerlevel9k를 쓰다가 최근엔 더욱 심플한 cloud_custom을 사용한다.

cloud_custom

cloud_custom은 cloud theme을 변형한 것이다.

https://medium.com/dolomite-official/supercharge-your-productivity-with-iterm2-zsh-a1fbc7607cd6

Powerlevel9k

powerlevel9k를 설정하기 위해 설정값들을 ~/.zshrc 에 입력해준다.

.zshrc에서 기본 ZSH_THEME는 아마 robbyrussell일텐데, 이걸 powerlevel9k로 바꿔준다.

# (1) powerlevel9k가 방금 설치한 Nerd Font를 사용토록 셋팅한다.
$ echo "POWERLEVEL9K_MODE='nerdfont-complete'" >> ~/.zshrc

# (2) github를 통해 `powerlevel9k`를 설치해서 역시 `~/.zshrc`에 삽입한다.
$ git clone https://github.com/bhilburn/powerlevel9k.git ~/powerlevel9k	

$ echo 'source  ~/powerlevel9k/powerlevel9k.zsh-theme' >> ~/.zshrc

POWERLEVEL9K_MODE='nerdfont-complete'
source ~/powerlevel9k/powerlevel9k.zsh-theme

powerlevel9k의 configuration 변경하자.

~/.zshrc에서 powerlevel9k의 환경변수의 configuration을 변경할 수 있다. 자세한 내용은 이곳을 참고한다.

내가 추가했던 셋팅은 다음과 같다.

POWERLEVEL9K_LEFT_PROMPT_ELEMENTS=(ssh dir vcs newline status)
POWERLEVEL9K_RIGHT_PROMPT_ELEMENTS=(ssh time)
POWERLEVEL9K_PROMPT_ADD_NEWLINE=true

# reversed time format
POWERLEVEL9K_TIME_FORMAT='%D  {  %H:%M:%S}'

다른 유저들이 뽐낸 configuration을 구경해볼 수도 있다.

zsh 삭제

이렇게 애써 설치한 zsh를 uninstall 해야될 때가 있다. 그때는 아래 링크를 참고하자.

Back to Bash: Remove Zsh and terminal themes on a Mac step-by-step

iterm

macOS의 기본적인 terminal은 편의기능이 많이 부족하기 때문에 여러 편의기능을 갖춘 iterm을 사용한다.

대표 기능을 뽑아보면 아래와 같다. 기능 더보기

• 터미널 탭 기능 (+토글 단축키)
• 터미널 Split View
• 자동완성 기능
• 터미널 내에서 단어 찾기
• 마우스 없이 복사&붙여넣기
• 256 이상의 색상 지원

iterm2 다운로드 페이지에 가서 stable releases의 최신 버전을 다운로드 받는다.

혹은 커맨드로 설치 가능하다. 이러면 iTerm 어플리케이션이 ~/Applications 폴더에 저장된다.

$ brew cask install iterm2

GUI 디자인 설정

Cmd + ,를 눌러 preference 창을 연다.

• 타이틀바 스타일 변경
  • Appearnce에서 General 탭에 Theme 중에서 Minimal를 좋아한다.
• margin 키우기
  • Appearnce에서 Panes 탭에 Side margins를 12로 설정
  • Appearnce에서 Panes 탭에 Top & bottom margins를 10로 설정
• 탭 라인 제거
  • Advanced에서 Tabs의 In the Minimal theme, how prominent should the tab outline be?를 0으로 설정
• 줄 간격
  • Profiles의 Text 탭에서 n/n 줄간격을 110으로 설정

한글파일 깨짐방지

• Preference의 Profiles에서 Text 탭을 보면 Unicode normalization form이 있다. 이걸 UFC로 설정한다.
  • 파일명 또는 디렉토리명의 자/모가 분리되는 현상을 방지한다.

단축키 설정

• Preference의 Profiles에서 Keys 탭에 Presets을 눌러서 Natural Text Editing을 선택한다.
  • Option + <-/->를 이용하여 단어 단위로 커서를 이동할 수 있다.

colour scheme 고르기

iterm에는 많은 colour scheme이 있다. 이곳에서 기존에 설정된 scheme들 중 취향에 맞는 걸 다운로드 받는다. 나는 Matrix가 맘에 든다.

preferences > profile > colors로 간다.

import누르고 다운로드 받은 matrix.itermcolors를 고른다.

fonts 설치

예전엔 Hack Nerd Font를 썼는데, 이제는 둥근모꼴을 쓴다.

Hack Nerd Font

(powerlevel9k의 경우) 만약 zsh shell에서 특별한 icons를 띄우고 싶으면 특별한 fonts를 설치해줘야 한다. 여러가지가 있지만 개인적으로 nerd fonts가 괜찮다.

아래의 두 명령어를 입력한다.

$ brew tap caskroom/fonts
$ brew cask install font-hack-nerd-font

그리고 나서, item > preferences > profiles > text > font > Change Font 에서 Hack Nerd Font를 고른다.

개인적으로 선호하는 셋팅은 글씨크기 18px, Vertical space 120%

둥근모꼴

최근엔 깔끔하게 icons를 안띄우고 사용한다. 그래서 둥근모꼴을 사용한다. 레트로 감성이다.

둥근모꼴 다운로드

Vim

macOS에는 vi 커맨드가 기본적으로 내장되어 있다. vi 커맨드를 이용하여 에디터를 띄울 수 있는데, vi커멘드는 vim(Vi IMproved) 커멘드와 동일하게 동작한다.

vim 관련해서는 개발자의 맛님의 vim 추천동영상, vim plugin 동영상이 많은 도움 되었다.

▲ 완성된 vim 화면

vimrc

The Ultimate Vim configuration을 사용해서 기본적인 vim 환경을 세팅할 수 있다.

basic version과 awesome version이 있는데 basic version을 설치하자.

$ git clone --depth=1 https://github.com/amix/vimrc.git ~/.vim_runtime
$ sh ~/.vim_runtime/install_basic_vimrc.sh

이로써 기본적인 vim 화면 구성은 마쳤으나, 몇 가지 기능을 더 추가했다.

여기에서 나의 vimrc 파일 셋팅을 볼 수 있다.

vim plugins

vim의 plugin에 대한 부분은 따로 자세한 포스팅을 작성하겠다.

docker

docker에 대한 자세한 설명은 subicura님의 도커 설명 글이나 엘리님의 도커 설명 영상를 참고하면 좋다.

Docker 홈페이지

$ brew cask install docker

tig

tig란 Text-mode Interface for Git의 약자이다. 말 그대로 텍스트만으로 git을 관리할 수 있게 해주는 프로그램이다. git 자체로도 충분하지만 tig를 사용하여 여러 로그를 편하게 볼 수 있다.

tig 홈페이지

$ brew install tig

jq

JSON 결과를 보기 좋게 시각화해주고 원하는 대로 편집할 수 있는 프로그램이다. 간단한 필터와 결과 변환이 가능하다.

jq 홈페이지

$ brew install jq

bat

cat 명령어에 syntax highlighting과 여러 가지 기능이 추가된 명령어이다.

bat 홈페이지

$ brew install bat

~/.zshrc에서 cat대신 bat을 쓰도록 alias를 설정하자.

alias cat="bat"

OpenInTerminal

Finder에서 바로 terminal 열 수 있는 도구이다. 설치 후 cmd누르고 드래그해서 버튼을 추가할 수 있다.

OpenInTerminal github

$ brew install --cask openinterminal

ngrok

로컬 서버를 터널링을 통해 외부로 오픈해주는 도구이다.

ngrok 홈페이지

$ brew cask install ngrok

thefuck

오타나거나 잘못된 명령어를 실행했을 때, fuck을 외치면 제대로된 명령어를 실행시켜준다.

thefuck github

$ brew install thefuck

참고자료

• 완벽한 mac 작업환경 세팅하기 👍
• 본격 mac에 개발환경 구축하기 👍
• Z shell with Oh My Zsh Config Guide
• 멋진 Terminal 만들기

git commit message는 쉘 프롬프트에서 아래와 같이 입력하면 된다.

# commit message editor를 활용하는 방법
$ git commit 

# 빠르고 간단한 방법
$ git commit -m "commit message title" 

1. 좋은 커밋을 위한 8가지 약속.

1. 제목과 본문을 한 줄 띄워 분리하기.
2. 제목은 영문 기준 50자 이내로.
3. 제목 첫글자를 대문자로.
4. 제목 끝에 . 금지.
5. 제목은 명령조로.
6. Github - 제목(이나 본문)에 이슈 번호 붙이기.
7. 본문은 영문 기준 72자마다 줄 바꾸기.
8. 본문은 어떻게보다 무엇을, 왜에 맞춰 작성하기.

2. 좋은 커밋의 목적

• 더 좋은 커밋 로그 가독성.
• 더 나은 협업과 리뷰 프로세스.
• 더 쉬운 코드 유지보수.
• 커밋 메시지를 작성할 때는 기승전결(제목, 본문, 꼬리말)을 고려하고 나와 타인이 쉽게 이해하고 검색하기 좋도록 간결하고 명확하게 작성.

3. 커밋 메시지 구조

Title 제목

Title은 Type과 Subject로 나뉜다.

Type은 아래 중 하나를 목적에 맞게 쓴다.

• init: 초기화
• feat: 새로운 기능 추가
• update: 기능 보완 (업그레이드)
• remove: 코드나 파일 제거
• fix: 버그 수정
• config: 설정 관련 파일 작성 또는 변경
• build: 빌드 관련 파일 수정
• ci: CI관련 설정 수정
• docs: 문서 (문서 추가, 수정, 삭제)
• style: 스타일 (코드 형식, 세미콜론 추가: 코드 로직에 변경 없는 경우)
• refactor: 코드 리팩토링
• test: 테스트 (테스트 코드 추가, 수정, 삭제: 코드 로직에 변경 없는 경우)
• chore: 기타 변경사항 (스크립트 수정 등)

Subject는 아래 규칙을 지켜 통일감을 유지한다.

• 제목은 50자 이하
• 제목 첫 글자는 대문자
• 제목은 명령문
• 제목 끝에 마침표(.) 금지
• 제목과 본문을 한 줄 띄워 분리
• 제목이나 본문에 이슈 번호(가 있다면) 붙임

Content 본문

• 쓸지 말지는 선택 사항
• 최소 20자 필수 입력
• 한 줄에 72자 이하
• 어떻게(How)보다 무엇을, 왜(What, Why)에 맞춰 작성

Footer 꼬리말

• 쓸지 말지는 선택 사항

• Issue tracker ID를 작성할 때 사용

• Resolve: 이슈 해결
• See also: 참고할 이슈

github 이슈 자동 종료 팁

Github는 commit 메세지를 작성할 때 예약된 키워드를 사용하면 이슈가 자동으로 종료되는 기능을 탑재하고 있다. 예약어는 commit 메세지 어느 위치에서나 사용 가능합니다.

예시

Resolve #337

사용되는 키워드

• close
• closes
• closed
• fix
• fixes
• fixed
• resolve
• resolves
• resolved

close 계열은 일반 개발 이슈, fix 계열은 버그 수정 이나 hot-fix 이슈, resolve 계열은 문의나 요청 사항에 대응한 이슈에 사용하면 적당하다.

4. Commit message template 만들기

Commit message template을 적용할 git 프로젝트 폴더로 이동한 다음, .gitmessage.txt 파일을 생성한다.

$ touch ~/.gitmessage.txt
$ vi ~/.gitmessage.txt

커스텀 템플릿 파일을 아래와 같이 작성했다.

##### 제목(title) #####
# 50자 이내로
# <Type>: <Title>
# ex) docs: Add new post
# 해당 라인 지우고 제목 작성

##### 본문(content) #####
# 72자마다 줄바꾸기
# 해당 라인 지우고 본문 작성

##### 꼬리말(footer) #####
# 깃허브는 이슈종료 예약어 있음
# <Type> #<Issue number>
# ex) Resolve #122
# 해당 라인 지우고 꼬리말 작성

##### COMMIT END #####
# <Type> 목록
# init: 초기화
# feat: 새로운 기능 추가
# update: 기능 보완 (업그레이드)
# remove: 코드나 파일 제거
# fix: 버그 수정
# config: 설정 관련 파일 작성 또는 변경
# build: 빌드 관련 파일 수정
# ci: CI관련 설정 수정
# docs: 문서 (문서 추가, 수정, 삭제)
# style: 스타일 (코드 형식, 세미콜론 추가: 코드 로직에 변경 없는 경우)
# refactor: 코드 리팩토링
# test: 테스트 (테스트 코드 추가, 수정, 삭제: 코드 로직에 변경 없는 경우)
# chore: 기타 변경사항 (스크립트 수정 등)
#
# 제목 첫 글자는 대문자
# 제목은 명령문
# 제목 끝에 마침표(.) 금지
# 제목과 본문을 한 줄 띄워 분리
# 본문은 "어떻게" 보다 "무엇을"과 "왜"를 설명
# 본문에 여러 줄의 메시지를 작성할 땐 "-" 혹은 "번호"로 구분
##########################

작성을 했으면 git 설정에 템플릿 파일을 추가한다.

# global하게 적용하는 경우
$ git config --global commit.template ~/.gitmessage.txt

# 특정 프로젝트만 적용하는 경우
$ git config commit.template .gitmessage.txt

이렇게 작업하면 앞으로 git commit으로 입력할 때 자동으로 템플릿이 나타난다.

또한 템플릿의 주석(#)은 실제 커밋시 포함이 되지 않는다.

참고자료

• 좋은 git 커밋 메시지를 작성하기 위한 8가지 약속
• [Git 공식문서] Git맞춤 - Git 설정하기
• Conventional Commits

▶︎ What is emotion?

책 <감정은 어떻게 만들어지는가>는 감정을 다음과 같이 바라보고 있다.

• “It is widely agreed that emotion refers to a collection of psychological states that include subjective experience, expressive behavior (e.g., facial, bodily, verbal), and peripheral physiological responses(e.g., heart rate, respiration)”
• “It is also widely agreed that emotions are a central feature in any psychological model of the human mind”
  • Affect가 먼저 일까? Cognition이 먼저 일까? Affect는 좋고 나쁨(호불호)이고, 이는 세포수준에서부터 고등생명체까지 모두가 갖고 있기 때문에 Affect가 먼저 일거라고 추측!
• “Beyond these two points of agreement, however, almost everything else seems to be subject to debate”
• 감정이 무엇인지는 감정이 어떻게 만들어지는지에 관한 이론마다 다르게 정의된다. 연구자마다 정의가 다르다.

▶︎ Theories of Emotion

(Gross and Barrett, 2011) 은 감정이론에 관한 리뷰논문이다. 감정이라는 하나의 주제를 놓고 논의된 여러 이론들의 공통점과 차이점을 보기에 큰 도움이 된다.

• 감정에 대한 4가지 이론
  • Basic 6 Emotions (Paul Ekman)
    • Sadness
    • Joy
    • Fear
    • Disgust
    • Anger
    • Suprise
  • Appraisal(평가, 해석) (James Gross)
    • Process를 통해 emotion generation이 일어난다.
    • Situation -> Attention -> Appraisal -> Response
    • 관련 자료 : Clore, Gerald L., and Andrew Ortony. “Cognitive neuroscience of emotion.” (2000).
    • Affective Computing이라는 분야도 있다.
  • Psychological Construction
    • (Russell, 2003)
      • Traditional view: Emotion as a mediator
      • Alternative view: Emotion as a construct
      • Emotion은 만들어지고 Collection이다. 실체가 없고 사회
  • Social Construction
• 감정이론 비교. 특정 이론이 절대적으로 옳다고 할 수 없다. 각각의 이론을 지지하는 증거들이 존재하기 때문이다.

▶︎ What is the common theme here?

이러한 여러 감정이론 가운데 우충완 교수님은 Appraisal과 Psychological Construction 중간 쯤의 관점을 가지고 있다.

Basic Theories 쪽은 연구 역사가 오래된 만큼 많은 연구가 진행되어 왔다. 그러면 Psychological Construction과 Social Construction쪽에는 어떠한 합의점과 논쟁거리가 있는지 살펴보자.

• Emotions are more malleable than you think!

  • Even for pain
  • 같은 자극에 대해서도 자주 변한다.

• Against Dualism(이원론)

  1. Emotion generation vs. regulation?
     • 여태껏 generation과 regulation은 서로 다르다고 생각했다. 이분법적인 사고. 하지만, 이러한 접근에는 한계점이 명확하고 이 둘이 다르지 않다는 증거들이 속속 등장하고 있다.
  2. Cognition vs. Emotion?
     • 이 둘을 꼭 구분해야하는가?
  3. Body vs. mind?

이제 하나씩 살펴보자.

◼︎ Emotions are more malleable than you think! (The case of pain)

∙ Pain pathway v1.0

• Descartes’ pain pathway (혹은 bell theory, specificity theory라고도 부름)
• 외부자극을 받으면 사람은 수동적으로 그 자극에 따른 통증을 느낀다. 데카르트가 처음 주장한 이론이지만 지금까지도 많은 사람들이 이렇게 생각한다.
  • 
    • 이 그림은 Pain modulatory pathways을 나타낸다. (Zhou & Verne, 2014)
      • 왼쪽은 Ascending pain pathway이며 pain을 passive하고 단순히 response to noxious input으로만 본다. 이것만 보면 데카르트 관점이다.
      • 오른쪽은 Descending pain pathways이다. 이러한 pathway가 새로운 관점이다. passive하지 않고 active하게 pain을 느낀다.
• pain pathway 1.0에 따른 치료법(Treatment)
  • Pain연구의 기념비적인 논문이 바로(Melzack, 1965) 이다.
  • bell theory에 근거해서 pain pathway를 실제로 잘랐다.
  • 자른 결과
    • Selective benefits (They don’t always work)
    • Sometimes makes pain worse

∙ Pain pathway v2.0

• Brain filters, selects, and modulates noxious inputs
• Pain은 단순한 response to noxious input이 아니라 그 이상이다!
• Brain의 역할이 굉장히 중요하다.
• 그렇다면 brain이 중요하다는 증거는 무엇일까?
  • Evidence 1: Endogenous fluctuations in pain experience
    • 한 사람에게 동일한 온도의 열자극을 주어도 느끼는 통증 정도는 매번 다르다.
    • Woo, C., Schmidt, L., Krishnan, A. et al. Quantifying cerebral contributions to pain beyond nociception. Nat Commun 8, 14211 (2017). https://doi.org/10.1038/ncomms14211
  • Evidence 2: Just rethinking (cognitive self-regulation) can change pain
    • 단순히 머리로 상상하는 것만으로도 느끼는 통증 정도가 매번 다르다.
    • Woo CW, Roy M, Buhle JT, Wager TD (2015) Distinct Brain Systems Mediate the Effects of Nociceptive Input and Self-Regulation on Pain. PLOS Biology 13(1): e1002036. https://doi.org/10.1371/journal.pbio.1002036 -> Brain이 바뀐다
    • (replication) Matthewson, Gordon M.; Woo, Choong-Wan; Reddan, Marianne C.; Wager, Tor D., Cognitive self-regulation influences pain-related physiology, PAIN: October 2019 - Volume 160 - Issue 10 - p 2338-2349 doi: 10.1097/j.pain.0000000000001621 -> Body(physiology)가 바뀐다.
  • Evidence 3: How other people rated can change pain
    • 다른 사람이 이 자극에 대해서 얼만큼 아팠했는지 보여주고 그 다음 똑같은 자극을 주면, 둘의 차이가 엄청 난다. 즉, 다른 사람에 영향을 많이 받는다는 뜻. -> social cue effects
    • Koban L, Wager TD. Beyond conformity: Social influences on pain reports and physiology. Emotion. 2016;16(1):24-32. doi:10.1037/emo0000087
  • Evidence 4: Expectation (and placebo effects) can change pain
    • Pain predictive cues는 Low-pain cue와 High pain cue로 나뉘고 Heat intensity는 Low pain/Medium pain/High pain으로 나뉜다. cue를 다르게 주면 같은 온도라도 다르게 느낀다!
    • Atlas, L. Y., Bolger, N., Lindquist, M. A., & Wager, T. D. (2010). Brain mediators of predictive cue effects on perceived pain. J Neurosci, 30(39), 12964-12977. doi:10.1523/JNEUROSCI.0057-10.2010
  • Evidence 5: Perceived control can change pain
    • 내가 이 통증을 선택했는지 아닌지에 따라서 느끼는 게 다르다. 상황에 대한 통제력 -> Perceived control effects
    • Woo, C., Schmidt, L., Krishnan, A. et al. Quantifying cerebral contributions to pain beyond nociception. Nat Commun 8, 14211 (2017). https://doi.org/10.1038/ncomms14211
  • Evidence 6: Distraction can change pain
    • 아플 때 distraction해서 주의(attention)를 환기시키면 덜 아프게 느낀다.
    • cognitive load에 높아질 수록 덜 아프게 느낀다.
• Pain as a multidimensional experience
  • Melzack이 Pain perception에 3 가지 components가 있다고 주장했다.(Melzack, 2005)
    • Cognitive Components
    • Sensory Components
    • Affective Components
  • (Wager & Woo, 2015) 에서도 System-level processes를 주장함.
    • 
      • Decision
      • Meaning
      • Sensory
      • Affective or motivational
  • 좋은 진통제를 만들기 위하여 nociceptive receptor를 연구하는거 이외에 이러한 component를 어떻게 조절해서 통증을 줄일 수 있을지를 같이 연구해야된다.
    • 미국에서는 마약성 진통제 중 하나인 opioid에 대한 중독 사례가 급증해서, 사회적 문제로 이어졌다. 백악관 성명.
  • 대체의학의 효과도 제대로 입증된게 없다. 예를 들면, 침(acupuncture), 명상(meditation), 심리치료(psychotherapy)가 pain을 줄여주긴 하는데 정확히 어떤 component에 의해서 효과를 내는지 제대로 밝혀야한다.
• Treating pain by altering multidimensional contexts
  • (Wager & Atlas, 2015)
  • 
  • 병원에서 치료할 때 contexts가 굉장한 효과를 낸다.

◼︎ Against Dualism(1) : Emotion generation vs. regulation?

Dominant view

• Dual system : Cortical (regulation) vs. sub-cortical (perception)
• brain의 sub-cortical area 중 특히 limbic system같은 곳에서 NACC나 amygdala 영역이 emotion을 generate한다고 한다. 근데 이때, 이 generation을 prefrontal cortex에서 suppress하거나 regulate한다. 그러던 중 이러한 prefrontal-subcortical circuit이 깨지면 self-regulatory failure가 발생한다.
• (Heatherton & Wagner, 2011), (Ochsner et al, 2012), (Wager et al, 2008)
• promising view
• 이때 뭐가 regulated되는건가? 이때 emtion이 무엇인가?
• Emotion as coordinated brain responses across multiple-systems!
• Emotions are arbitrary “label” for patterns of coordinated brain processes
• (Barrett et al, 2006, 2009, 2013), (Lindquist et al, 2011, 2012), (J. Price, 1999), (Bandler, 2000)

Our approach : Develop good markers first, then study the effects of regulation

• 두 가지 관점 중에서 우충완 교수님 연구실은 promising view관점인데 biomakers를 개발하는데 집중하고 있다.
• Woo CW, Roy M, Buhle JT, Wager TD (2015) Distinct Brain Systems Mediate the Effects of Nociceptive Input and Self-Regulation on Pain. PLOS Biology 13(1): e1002036. https://doi.org/10.1371/journal.pbio.1002036
  • NPS(Wager et al, 2013) 라는 pain biomarker는 local area가 아니라 area간의 networks라는 관점에서 개발됐다. 이렇게 개발한 NPS를 가지고 이 논문의 실험(evidence2; imagination)에 적용해보니까, brain이 변화하긴 하는데 NPS의 pain system이 변화되는게 아니었다!
  • 오히려, emotion의 value(가치평가)에 중요한 영역이라고 알려진 Nac와 vmPFC가 mediate해서 통증regulated된 것이다.
  • 즉, Cognitive-self regulation때문에 thalamus와 insula같은 영역이 regulated되서 통증이 낮아진게 아니라, Cognitive self regulation과 pain system이 동시에 통증을 낮추는데 효과를 낸 것이다.
    • There can be multiple independent neural pathway(ingredients) to construct pain and emotion experience (more constructionist view)
    • 감정 조절은 또다른 감정을 만들어낸다.

◼︎ Against Dualism(2) : Cognition vs. Emotion?

• How emotions are made?
  • “Through Prediction, your brain constructs the world you experience”- Lisa Feldman Barrett.
• Pain and pain regulation as predictive coding (Bayesian update)
  • prediction이라고 하는게 되게 이성적일거 같지만, 본능적이고 무의식적으로 우리 뇌에서 일어난다.
  • Tabor A, Thacker MA, Moseley GL, Körding KP (2017) Pain: A Statistical Account. PLOS Computational Biology 13(1): e1005142. https://doi.org/10.1371/journal.pcbi.1005142
  • Büchel C, Geuter S, Sprenger C, Eippert F. Placebo analgesia: a predictive coding perspective. Neuron. 2014;81(6):1223-1239. doi:10.1016/j.neuron.2014.02.042
• Treatment context as multidimensional priors
  • Geuter, Koban, & Wager, 2017
  • treatment context(약을 먹는 상황)
  • no-treatment context(약을 안먹는 상황)
• Emotion as a meaning construction
• Emotion as visceral-affective-conceptual pattern generation process
  • (Wager & Atlas, 2015)
  • 

◼︎ Against Dualism(3) : Body vs. Mind?

• Chronic pain? Issues in internal contexts
  • chronic pain(만성통증)은 통증이 6개월 이상일 때 만성통증이라고 한다. 3개월 정도면 sub acute pain이고, 다쳤을 당시에 아픈건 acute pain이라고 한다.
  • Javeria A. Hashmi, Marwan N. Baliki, Lejian Huang, Alex T. Baria, Souraya Torbey, Kristina M. Hermann, Thomas J. Schnitzer, A. Vania Apkarian, Shape shifting pain: chronification of back pain shifts brain representation from nociceptive to emotional circuits, Brain, Volume 136, Issue 9, September 2013, Pages 2751–2768, https://doi.org/10.1093/brain/awt211
    • subacute pain 환자들을 대상하고 longtitudinal하게 scan을 했다. 즉, 주기적으로 여러번 찍었다.
    • 처음에는 sensory area가 significant하게 activation됐다고 나왔는데, 나중에는 emotional area가 activation 됐다
      • 나중에 활성화된 영역은 default mode networks(다른 말로 self-referencial process)이다.
    • 이 말은 Body에서 Mind로 shape shifting된다는 뜻이다. 통증의 원인이 바뀐다는 이야기.
• The effects of concepts on bodily responses
  • COCOAN lab에서 Free-Association Semantic Task(FAST)라는 새로운 task를 개발했다.
  • 생각의 흐름
• CNS control ANS: Visceromotor network
  • Saper CB. The central autonomic nervous system: conscious visceral perception and autonomic pattern generation. Annu Rev Neurosci. 2002;25:433-469. doi:10.1146/annurev.neuro.25.032502.111311
  • ANS을 CNS가 조절한다. 즉, 뇌가 몸을 조절한다.
  • Central Autonomic Nervous System이라는 개념을 만듬!

▶︎ COCOAN lab에서 하는 일

1. Neuroimaging-based pain decoding
2. Decoding internal thoughts and emotions
3. Translational neuroimaging
4. Neural basis of pain and emotion regulation

◼︎ 연구 방향!

• Emotions are more malleable than you think! -> Effective self-regulation (science of behavioral changes)

• Against Dualism

  1. Emotion generation vs. regulation? -> Developing neuroimaging-based markers for pain emotions

  2. Cognition vs. Emotion? -> Modeling dynamic interactions between cognition and emotion, especially predictive coding and internal thoughts

  3. Body vs. mind? -> Understanding how the mind influences the body (mind-body interaction)

Statistics 통계학

통계학은 관심 또는 연구대상이 되는 집단(모집단)의 특성을 파악하기 위해 모집단으로부터 일부의 자료(표본)를 수집, 정리, 요약, 분석하여 표본의 특성을 파악하고 이를 이용하여 모집단의 특성에 대해 추론하는 원리와 방법을 제공하는 학문이다.

• 목차는 <예제로 배우는 R 데이터 분석 입문>를 참고했습니다.
• 용어는 한국어와 영어를 병행 표기했습니다.

목차

1. 데이터의 요약 및 표현
2. 확률변수와 분포함수
3. 통계적 추정과 검정
4. 평균차이 검정(t-test)
5. 분산분석(ANOVA)
6. 질적변수들의 연관성
7. 상관분석
8. 비모수적 검정

참고자료

• 책 <현대통계학>
• 책 <예제로 배우는 R 데이터 분석 입문>
• 강의 <Master statistics&machine learning: intuition, math, code>
• 강의 <확률 및 통계> 이상화 교수
• 강의 <핵심 확률/통계> 김성범 교수
• 책 <Statistical Thinking for the 21st Century>

5. 분산분석(ANOVA)

독립표본 t-test은 두 집단간 평균을 비교하는데 사용된다. 이를 확장하여 세 개 이상의 집단들에 대한 ‘평균’을 비교하기 위해서 분산분석(analysis of variance: ANOVA)방법을 사용한다. 분산분석은 실험계획법(Experimental Design)에서 많이 사용하는 분석방법으로써 이름이 뜻하는 대로 특성값의 분산 또는 산포를 분석하는 방법이다. 즉, 특성값의 산포를 제곱합(sum of squares)으로 나타내고, 이 제곱합을 실험에 관련된 요인별로 분해하며, 순수한 오차에 의한 영향보다 큰 영향을 주는 요인이 어떤 것인가를 규명하는 분석방법이다.

이때, 실험계획에서는 비교하는 집단을 나누기 위한 집단변수의 범주를 처리(treatment) 혹은 요인수준(factor level, 인자수준)이라고 하고, 집단변수를 요인(factor, 인자)이라고 부른다.

The goal of ANOVA is to determine the effects of discrete independent variables(groups,levels) on a continuous dependent variable.

(1) 실험연구 개념

반복: 각 집단(or 처리)의 표본 수

(2) 분산분석 개념

ANOVA의 세 가지 가정

• Independence: 샘플 데이터는 모집단에서 각각 독립적으로 추출됐다.
• Normality: residuals(모델에 fitting하고 unexplained variance)는 정규분포를 따른다.
• Homogeneity of variance (a.k.a. Heteroscedasticity): 각 셀마다 분산은 대략적으로 같다. 셀이라는건 아래 예시 테이블의 한 칸을 말한다. factor별, level별로 나눠진 셀들이 모두 같은 분산을 갖고 있다는 뜻이다.

Medication이라는 하나의 Factor의 level이 A, B, Placebo 3가지 있다면 아래와 같이 정리 가능하다.

Medication과 Age group이라는 두 개의 Factor가 각각의 levels을 가질 때는 아래와 같이 정리 가능하다.

분산분석의 4 steps

1. 실험계획을 살펴보고 ANOVA분석이 적절한지 확인한다.
2. 독립변수와 종속변수를 정한다.
3. 가능하면 factors와 levels의 ANOVA Table을 만든다.
4. 모델을 계산하고 결과를 해석한다.

여러가지 effects

분산을 통해서 영향을 주는 요인을 구분짓는 분석이 ANOVA이다. 여러가지 영향(effects)이 있다

• Fixed effects: The number of levels of a factor is fixed.
• Random effects: The factor is random in the population.
• Mixed effects: Both fixed and random factors

mixed-effects ANOVA는 예를 들어 주관적인 행복감을 집 유형(fixed effects)와 연령(random factor)에 의해서 영향받는지 여부를 조사하는 분석이다.

(3) 분산분석 분류

집단을 나눠주는 요인의 수 기준으로 분산분석을 나눈다.

• 요인의 수가 하나이면 일원배치 분산분석(one-way ANOVA)
• 요인의 수가 두 개이면 이원배치 분산분석(two-way ANOVA)

반복 수가 같은지 여부에 따라서 분산분석을 나눈다.

• 반복수가 같은 경우 Balanced ANOVA 예를 들어, Age group이란 factor에 level이 younger, older있고, Medication이라는 factor에 A, B, Placebo가 있을 때 아래 표와 같이 모든 셀에 데이터 포인트, 즉 반복수가 같으면 Balanced한 경우다.

• 반복수가 다른 경우 Unbalanced ANOVA 반면, 셀마다 데이터 포인트가 다르면, Unbalanced한 경우이다.

적어도 하나의 factor가 같은 individual로부터 multiple measurements를 한다면 그건 Repeated-measures ANOVA(rmANOVA)라고 한다.

일원분류 분산분석(one-way ANOVA)

일원배치 분산분석을 하기 위해서는 요인의 각 수준에서 자료의 모집단은 동일한 분산을 가지는 정규분포를 가정한다. 따라서 분산분석을 실행하기 전에 이 가정들이 만족되는지 검토하는 것이 좋다.

• 요인의 각 수준에서 표본이 대표본인 경우: 정규성의 검토 없이 분산분석이 가능
• 요인의 각 수준에서 표본이 소표본인 경우: 정규성 검토가 필요
  • 정규성 가정을 만족하지 않는 경우: 비모수적인 방법인 Kruskal-Wallis 방법을 사용

Sum of squares

ANOVA에서의 귀무가설과 대립가설부터 살펴본다.

• $H_O: \mu_1=\mu_2=\cdots=\mu_k$ 귀무가설은 ‘각 그룹들(위에서 본 테이블의 각 cell)의 평균들이 다 같다’
• $H_A: \mu_i\ne\mu_j$ 대립가설은 ‘적어도 한 그룹의 평균이 하나 이상의 다른 그룹의 평균과 다르다’

sum of squares(SS)는 사실상 variance 공식과 같다. 다만 $\frac{1}{n-1}$이 없는건 각 셀마다 SS의 비율이 중요하기 때문이다.

ANOVA는 이 SS를 구분짓는 작업이다.

Total SS = Within-group SS(a.k.a. Error SS) + Between-group SS

하나의 셀 내에서의 variation을 Within-group SS라고 하고 모든 셀의 모든 sample의 total variation을 between-group SS라고 한다.

ANOVA는 F-검정으로 가설검정을 하는데 이때 필요한게 F-통계량이다. F-통계량은 두 분산의 비율이다. \(\textrm{F}=\frac{\textrm{Explained\ variance}}{\textrm{Unexplained\ variance}}=\frac{\textrm{Due\ to\ factors}}{\textrm{Natural\ variation}}\)

F는 항상 양수이고 우리는 이 값이 크길 원한다. ⇒ statistically significant

다시 SS를 구분짓는 작업으로 돌아가서, Total SS, Between-group SS, Within-group SS를 아래 수식처럼 표현한다. 일단 factor가 1개이고 levels가 여러개인 경우라고 보자.

• $\textrm{levels}$: 여기서는 factor가 하나라고 가정했으니 levels의 개수는 그룹의 개수이다. $j$가 몇 번째 그룹인지 나타낸다.
• $\textrm{individuals}$: 한 그룹 내 데이터 포인트
• $n_j$ 한 그룹 내 individual의 개수
• $\bar{x}$: 모든 데이터의 평균
• $\bar{x}_j$: 하나의 그룹(셀) 안에서의 평균

여기서 헷갈릴만한게 $SS_{\textrm{Between}}$ 에서 한 그룹 내에서 $\bar{x}j$ 과 $\bar{x}$ 은 모든 individual한테 똑같다. 그래서 individual variability가 없어서 $\sum{i=1}^{\textrm{individuals}}$ 를 안쓰고 단순히 $j$ 번째 그룹의 데이터 개수인 $n_j$ 를 곱했다.

세 SS의 degree of freedom(df)는 다음과 같다.

• $N$: 모든 데이터 수
• $k$: level의 개수(그룹 개수)

여기서도 $df_{\textrm{Between}}$의 경우에 왜 $N$이 없냐면 그룹 내 데이터 포인터에 대해서 똑같은 $\bar{x}_j$를 갖기 때문이다. No change -> No degree of freedom

F-test

본격적인 F-검정을 위하여 계산한 sum of squares와 degree of freedom을 이용해서 Mean of Squares(MS)를 구하자.

$F$-통계량은 2가지 degree of freedome이 있다. 하나는 MS_between의 분모인 $k-1$이고 다른 하나는 MS_within의 분모인 $N-k$이다.

ANOVA table

이게 ANOVA Table이다.

계산한 p-value로는 어떤 그룹끼리 차이가 있는지 알 수 없다. ANOVA로는 다른게 있을 수 있다는 점만 알 수 있다. 어떤 그룹끼리 다른지 알아보려면 추가적으로 t-test를 해야한다. (=post-hoc comparison)

하지만, pairwise t-tests를 하면 multiple comparison problem이 발생한다. 그리고 같은 실험에서 진행됐기 때문에 모든 그룹이 서로 independent하지 않다는 문제가 발생한다.

이 문제는 일반적으로 Tukey test로 해결한다. 새로운 통계량 $q$가 등장한다. \(q=\frac{\bar{x}_b-\bar{x}_s}{\sqrt{MS_{\textrm{Within}}}\sqrt{2/n}}\)

두 개의 그룹(그룹$b$, 그룹$s$)을 비교할 때, 비교가 6번($_4C_2$) 이뤄 진다고 예를 들면 $q$값도 6개이다.

• $\bar{x}_b$ : condition b에서의 평균
• $\bar{x}_s$ : condition s에서의 평균
• $\sqrt{MS_{within}}$ : variance와 관련
• $\sqrt{2/n}$ : sample size와 관련
• $q$는 $j,n-j$의 df를 갖는다.
  • $j$: 가능한한 모든 비교개수(6개)가 아니라 실질적으로 비교하고자 하는 비교개수(여기선 4개).
  • $n$: 모든 데이터 포인트의 개수

tukey test는 t-test와 다르지만 개념적으로 유사한 방법이다.

주의할점은 ANOVA에서 post-hoc comparisons는 F-test가 유의미할때만 가능하다. F-test가 유의미하지 않을 때에는 post-hoc comparisons가 의미없다.

Balanced: 반복수가 같은 경우 (집단 간 동일한 표본크기)

처리효과(treatment effect) = 주효과(main effect)

Unbalanced: 반복수가 다른 경우 (집단 간 상이한 표본크기)

이원분류 분산분석(two-way ANOVA)

요인이 두 개인 경우의 분산분석을 이원배치 분산분석이라 하고 요인이 두 개 이상인 경우는 분산분석을 통하여 각 요인들의 평균 비교와 두 요인 이상의 결합평균 비교(상호작용 파악)를 할 수 있다.

Two-way ANOVA

To total variation in the dataset is the sum of the variation across individuals within each group AND the variation across the different levels within each factor AND the variation at the interation between the factors

Two-way ANOVA는 One-way ANOVA에서 더 나아가 factor들 사이의 interaction의 변동성까지 고려한 분석이다.

Factor가 Medication과 Age group 두 가지 있고 각각의 Levels가 있으면 아래와 같이 정리 가능하다.

Factor가 A,B인 2개인 Two-way ANOVA의 SS는 아래와 같이 계산한다.

• $SS_{\textrm{Total}}$, $SS_{\textrm{Between A}}$, $SS_{\textrm{Between B}}$, $SS_{\textrm{Within}}$는 one-way ANOVA와 같다. (다만 $SS_{\textrm{Between A}}$, $SS_{\textrm{Between B}}$는 $a,b$ term이 추가됐다.)
• $SS_{A\times B}$는 two-way ANOVA에만 있는 term이다.

각 SS의 degree of freedom(df)는 다음과 같다.

• $a$: A요소의 데이터 개수
• $b$: B요소의 데이터 개수

ANOVA table

one-way ANOVA와 마찬가지로 마찬가지로 two-way ANOVA를 한 다음에 p값이 유의미하게 나오면, 어떤 그룹끼리 차이가나는지 확인하기 위해서 follow-up -t-test를 한다.

반복이 없는 경우

반복이 있는 경우

교호작용(interaction): 인자수준의 조합에서 생기는 효과. 인자 A의 효과가 인자 B의 수준의 변화에 따라 변하는 모형에서 이 교호작용이 존재한다.

(4) 공분산분석(ANCOVA)

공분산분석은 Analysis of Covariance 로서 흔히 ANCOVA라고 부른다. 자료 형태는 일원배치 분석분석과 비슷하지만 공변량이라는 변수가 추가된 것만 다르다.

(5) Dummy-coding

Dummy-coding: categorical 변수를 숫자로 변환하는 작업이다. 2개의 category를 숫자 {0,1}로 변환하는게 제일 좋다. 대표적인게 남녀 성별.

“1”이라는 변수가 “0”이라는 변수에 비하여 얼마나 변했는지를 factor의 effect가 보여줌으로써 해석해볼 수 있다.(“0” 변수가 마치 baseline처럼)

(6) MANOVA(multivariate ANOVA)

보통 ANOVA는 종속변수가 1개이고 독립변수는 여러개이다.

MANOVA(multivariate ANOVA)는 종속변수도 여러개이고 독립변수도 여러개이다.

6. 질적변수들의 연관성

(1) 다항분포

• 범주형변수(categorical variable): 범주(category)를 값으로 갖는 변수
• 다항시행 (multinomial trial): 한번의 시행에서 나타날 수 있는 결과가 여러 가지 중의 하나인 시행
• 다항분포(multinomial distribution)

(2) 교차분석 - 카이제곱검정

교차분석은 범주형 자료(명목형이나 순서형 변수)인 두 개의 변수들 간의 연관성(association)을 알아보기 위한 분석으로서 이차원 분할표(contingency table)을 먼저 작성하고 두 변수간의 연관성을 분석한다.

(3) 카이제곱 적합도 검정

(4) 오즈비 (Odds Ratio)

• 오즈비(Odds Ratio): 이차원 분할표에서 두 변수간 연관성을 나타내는 하나의 측도
  • $r=n:m=\frac{n}{m}$
  • 예) Odds가 6:1 이라는건 $n=6, m=1$이라는 뜻이고 비율이니 분수로도 표현가능하다.

(5) 연관성의 측도

• 카이제곱 통계량에 근거한 측도
  • 파이 계수(Phi coefficient)
  • 크래머 V (Cramer’s V)
  • 분할계수(Contingency Coefficient)
• 명목형 변수들의 연관성
  • 람다(Lambda)
• 순서형 변수들의 연관성
  • 감마(Gamma): 분할표에서 두 순서형 변수 사이의 연관도를 재는 측도
    • 일치쌍(concordant pair): 각 변수에 대한 관측값이 크기 순서에서 같은 방향에 있는 한 쌍의 관측개체
    • 불일치쌍(discordant pair): 각 변수에 대한 관측값이 크기 순서에서 반대방향에 있는 한 쌍의 관측개체
  • 심슨의 역설(Simpson’s Paradox)
    • 분할표 분석에 있어 전체분석결과와 세부분석의 결과가 모순되는 현상

7. 상관분석

두 개의 수치형 변수 간의 선형적인 연관성을 분석하는 방법이다. t-test는 평균차이만 보기 때문에 분산은 신경안쓴다. 그래서 개인차를 무시하는 방법이다.

(1) 상관계수의 개념

• 공분산(Covariance): 편차의 곱의 기대값
  • 공분산은 측정단위의 변화에 영향을 받는다.
• 표준화(standardization) = 중심화/척도화
  • 중심화(centering): 평균이 0이 되도록 함. 중심으로부터의 편차에 관심을 가짐.
  • 척도화(scaling): 표준편차가 1이 되도록 함. 측정단위 자체를 없앰.
• 상관계수(Pearson’s Correlation Coefficient)
  • 표준화된 두 변수의 공분산
  • 공분산을 두 변수의 표준편차의 곱으로 나눈 것
  • 두 변수가 가지는 변이에 비하여 공유하는 변이의 양이 어느 정도인지를 나타냄
• 상관계수의 부호와 크기
  • 상관계수의 부호는 증감의 방향성을 나타낸다.
  • 상관계수의 절대값의 크기는 직선의 주변에 자료가 어느정도 집중되어 있는지를 나타낸다.
  • 정도만 나타내는거지 수치의 배수적인 관계는 없다. 상관계수 2배하고 그러면 안된다.
• 상관계수 해석의 제약성: 선형성(Linearity)
  • 상관계수는 두 변수의 ‘선형집중성’만을 재는 측도로서 비선형 연관관계를 반영하지는 못함
  • 산점도(scatter plot)은 이러한 관계를 직관적으로 판단하기에 좋은 그림이다..

(2) 상관계수의 추정과 검정

피어슨(Pearson)의 상관계수

• 모수적 방법
• 적률상관계수(product-moment correlation coefficient) = 모수적 상관계수
• 대표본이거나 각 변수의 모집단 분포가 정규분포에 가깝다고 판단되는 경우에 사용
• t분포를 이용해 검정

스피어만(Spearman)의 순위상관계수

• 비모수적 방법
• outlier에 robust하다.
• 소표본이면서 정규성 가정을 하기가 어려운 경우, 특히 모집단의 분포가 대칭분포가 아니거나 대칭분포이지만 꼬리가 두터운 분포(상대적으로 아주 큰값이나 작은 값이 1% 이상 존재하는 경우)인 경우에 피어슨 상관계수 대신에 스피어만 순위상관계수를 사용
• 순위상관계수는 피어슨 상관계수와 계산식의 형태는 동일하지만 자료의 실제 값 대신에 순위(rank)를 이용해 상관계수를 계산한다.
• p-value는 피어슨 상관계수와 같이 구한다.

켄달의 타우(Kendall’s tau)

• 스피어만 상관계수와 같이 비모수적 방법
• ordinal 데이터 타입에 사용한다. (e.g, 교육수준, 영화평점)
• 해석은 피어슨과 스피어만과 같다.
• $\tau=K^{-1}\sum \textrm{sgn}(\tilde{x}i-\tilde{x}{i:})\textrm{sgn}(\tilde{y}i-\tilde{y}{i:})$
  • $\tilde{x}_i$: $x$의 rank값
  • $\tilde{x}_{i:}$: ‘:’라는 python notation을 그대로 씀
  • $K^{-1}$: normalization factor (kendall tau-b version)

(3) 편상관계수

의사 상관(Pseudo Correlation)

• 실제적인 연관관계가 없음에도 불구하고 상관계수가 크게 나타나는 경우
• 제 3의 변수에 의하여 상관관계가 나타나는 경우

편상관계수 (Partial correlation coefficient)

두 변수간의 관련성에 영향을 미치는 다른 변수를 통제하고 순수한 두 변수간의 상관관계

• 두 변수에 영향을 미치는 제 3의 변수를 통제한다.

• $\rho_{xy

  z}=\frac{r_{xy}-r_{xz}r_{yz}}{\sqrt{(1-r^2{xz})}\sqrt{1-r^2{yz}}}$

  • 분자에서 $r_{xy}-r_{xz}r_{yz}$는 우리가 관심있는 상관계수에서 관심없는 상관계수를 뺀다.

  • nothing to partial out일때 어떤지! $z$가 아무런 상관관계가 없을때…즉, $r_{xy}=0,r_{yz}=0$이 될때.. 식을 자세히 보면 결국 $\rho_{xy

    z}=r_{xy}$가 된다.

(4) 측정도구의 신뢰도분석

• 크론바흐의 알파계수

(5) Fisher-Z transformation for correlations

correlation coefficient는 -1과 1사이의 값만 가지는데, 분석방법에 따라 transformation이 필요할 수 있다. 그 때 필요한게 Fisher-Z transformation이다.

단순히 두 변수 사이의 관계를 선형적 상관성를 보기 위하여 correction를 계산했으면 fisher Z transformation을 고려할 필요 없다. The fisher Z-Transform은 주로 수 많은 변수별 여러 상관계수를 계산한 다음 이 상관계수값들을 가지고 가우시안 분포를 가정하는 t-test나 ANOVA 분석을 할때 중요하다.

(6) Cosine similarity과 상관계수의 관계

correlation coefficient에서 $\bar{x}=\bar{y}=0$이면 cosine similarity가 된다. 즉, mean-centered되면(=zero mean) 된다. 추가로 linear algebra관점에서 보면 cosine similarity는 dot product를 각각의 norm으로 나눈거다.

8. 비모수적 검정

(1) 정규성에 대한 검토

non-parametric의 특징은 parametric method에서의 정규성 가정을 하지 않는다.

(2) 단일 모집단에 대한 검정

• One sample -> Wilcoxon signed-rank test
• Two dependent (paried) samples -> Signed-rank test

(3) 두 모집단에 대한 검정

• Two independent samples -> Mann-Whitney U test (a.k.a. Mann-Whitney-Wilcoxon U test, Wilcoxon rank-sum test)

(4) 독립 k-표본에 대한 검정

• one-way ANOVA 의 대안: Kruskal-Wallis test (KW-ANOVA) ANOVA자체가 정규성가정에 대해서 일반적으로 robust하기 때문에 Nonparametric ANOVAs는 거의 사용되지 않는다. 더 복잡해질 뿐이다.

(5) Permutation testing

permutation test에서 p-value 구하는 방법

$obs$: observed statistic이다.

(1) Z-value approach

\(Z=\frac{obs-E[H_O]}{std[H_O]}\) 여기서는 $H_O$의 분포가 가우시안을 근사적으로 따른다는 가정을 해야한다. 왜냐하면 이 분포의 평균과 표준편차가 valid descriptor가 되어야하기 때문이다.

(2) P-avlue based on counts

\(p_c = \frac{\sum(H_O>obs)}{N_{N_O}}\)

Statistics 통계학

통계학은 관심 또는 연구대상이 되는 집단(모집단)의 특성을 파악하기 위해 모집단으로부터 일부의 자료(표본)를 수집, 정리, 요약, 분석하여 표본의 특성을 파악하고 이를 이용하여 모집단의 특성에 대해 추론하는 원리와 방법을 제공하는 학문이다.

• 목차는 <예제로 배우는 R 데이터 분석 입문>를 참고했습니다.
• 용어는 한국어와 영어를 병행 표기했습니다.

목차

1. 데이터의 요약 및 표현
2. 확률변수와 분포함수
3. 통계적 추정과 검정
4. 평균차이 검정(t-test)
5. 분산분석(ANOVA)
6. 질적변수들의 연관성
7. 상관분석
8. 비모수적 검정

참고자료

• 책 <현대통계학>
• 책 <예제로 배우는 R 데이터 분석 입문>
• 강의 <Master statistics&machine learning: intuition, math, code>
• 강의 <확률 및 통계> 이상화 교수
• 강의 <핵심 확률/통계> 김성범 교수
• 책 <Statistical Thinking for the 21st Century>

1. 데이터의 요약 및 표현

Statistics = state(국가) + ics (학문)

(1) 자료의 형태

• column: 변수(Variable), 속성(Attribute), 필드(Field)

• row: 개체(Observation), 레코드(Record)

• 오류값(Error) : 변수가 가질 수 없는 값, 변수값의 불가능한 조합, 일관성 없는 코드값, 잘못된 코드값
• 특이값(Outlier) : 정상이 아닌 자료값, 특이값은 오류값일 수도 있고 그렇지 않을 수도 있다.
  • 특이값을 다루는 방법 (dataset에 따라 알맞는 방법 사용)
    • 전략1: 특이값 찾아서 없애기 (굉장히 신중히)
    • 전략2: 특이값 냅두고 robust한 분석방법 사용
      • non-parametric t-test
      • spearman correlations
      • permutation testing
      • robust weighted regression and iteratively reweighted regression
• 결측값(Missing) : 알 수 없는 값. 원인과 기록방법을 정밀하게 조사하여 자료를 정정하고 기록방법을 변경해야 하며, 필요 시에는 자료를 보정해야 한다.

통계적 분석 방법

(2) 모수와 통계량

• 기술통계학(Descriptive Statistics)
• 추측통계학(Inferential Statistics)
  • 모집단(Population) : 관심의 대상이 되는 전체집단
  • 모수(Parameter) : 모집단의 특성
  • 표본(Sample) : 모집단에서 추출된 일부
  • 통계량(Statistic; 추정량(Estimator), 추정치(Estimate)) : 표본으로부터 관측된 내용

(3) 기술통계량

대표값 (중심경향, Measure of Centrality)

• 평균(Mean; 일반적으로 산술평균)
• 중앙값(Median; 중위수)
• 최빈값(Mode)

산포도 (Measure of Dispersion)

• 편차(Deviation)
• 분산(Variance) : 편차(평균고의 차이)의 제곱합을 자유도 n-1로 나눈 것
• 표준편차(Standard Deviation) : 분산에 제곱근을 취한 것

• 변동계수(CV; Coefficient of Variation; 변이계수)

• 표준화(Standardization) = Z-transformation
  • $Z=\frac{x-\bar{x}}{s}=\frac{\textrm{centering}}{\textrm{scaling}}$
    • 중심화(centering): 평균이 0이 되도록 함. 중심으로부터의 편차에 관심을 가짐
    • 척도화(scaling): 표준편차가 1이 되도로 함. 측정단위 자체를 없앰.
  • 관측치의 상대적 위치의 척도로 사용됨
  • 관측치간 상대적인 크기를 비교할 수 있음
  • 단위가 없는 순수한 수치
  • 관측치 전체 데이터 내에서의 위치를 나타내는 데 효율적으로 사용됨
• 0-1 정규화 (normalization)

분위수 (Quantile)

• 백분위수(Percentile)
• 십분위수(Decile)
• 사분위수(Quartile)
• Box Plot

범위 (Range)와 사분위범위 (Inter Quantile Range)

• 범위 : 최대값 - 최소값
• 사분위범위 : 3사분위수 - 1사분위수

왜도 (Skewness) 와 첨도 (Kurtosis)

• 왜도: 비대칭(asymmetry) 정도. 꼬리쪽 기준
  • 음수: left or negative skew
  • 0: 치우침 없음 (ex.정규분포)
  • 양수: right or positive skew
• 첨도: 뾰족한(peakedness) 정도
  • 음수: flat
  • 0: 정규분포
  • 양수: steep

(4) 그래프를 이용한 양적 데이터의 요약

• 히스토그램(Histogram)
• 줄기-잎 그림(Stem-and-Leaf plot)
• 상자그림(Box Plot)
• 다중상자그림(Multiple Box Plot)

(5) 질적 데이터의 요약

• 빈도표(Frequency Table)

(6) 그래프를 이용한 질적 데이터의 요약

• 막대도표(Bar Chart)
• 원도표(Pie Chart)
• 파레토 도표(Pareto Chart)
• 모자이크 도표(Mosaic Chart)

2. 확률변수와 분포함수

통계적 조사에서 조사대상의 일부만을 관측하고도 조사대상 전체에 대한 결론을 이끌어 내는 데에 논리적 근거가 되는 것은 확률의 개념이다. 통계학에서 확률론(Probability Theory)이 여기서 활용된다.

(1) 표본공간과 사건

• 표본공간(Sample Space): 통계적 실험이나 조사에서 가능한 모든 실험결과(outcome)의 집합
  • 보통 S로 표현
• 사건 or 사상 (event): 표본공간 S의 임의의 부분집합
  • 보통 A, B, C 등의 대문자로 표현
  • 근원사건(elementary event) = 단순사건(simple event): 한 개의 원소로 이루어진 사건
    • 사건 A의 한 원소를 관측하면 사건 A가 일어났다고 한다.
  • 합사건(union event), 곱사건(product event), 여사건(complementary event), 배반사건(disjoint events)

(2) 확률

확률의 정의

• 고전적 정의: P.Laplace(1749~1827)가 정의
  • 예를 들어 “4개에서 2개를 뽑는다”라는 표현에는 “뽑힐 가능성을 같게 하여”라는 뜻이 함축적으로 포함된 것으로 간주한다. 이러한 의미를 명확히 하기 위해 “랜덤하게 추출한다”라는 표현을 사용한다.
  • 표본공간에서 근원사건의 개수가 유한개이며, 각 근원사건이 일어날 가능성이 같은 경우에 대하여 확률을 정의하였다. 그러나 실제 문제에서는 이와 같은 고전적 정의에 의한 확률만으로는 설명되지 않는 현상이 많다. 예를 들어, 특정한 치료법에 의해 질병이 치료될 확률을 구하는 경우에는 전체조사의 결과의 개수가 유한이 아니며, 각 근원사건이 일어날 가능성도 같지 않다. 따라서 좀 더 일반화된 확률의 정의를 필요로 한다.
• 공리적 정의: A.N.Kolmogorov가 정의
  • 통계적 실험을 반복적으로 행하면, 한 사상이 발생하는 것은 일정한 법칙을 따른다는 것을 경험을 통하여 알 수 있다. 특히, 한 사건의 상대도수는 흔히 일정한 상수로 가까이 가는 것을 경험적으로 알 수 있다. 이러한 경우에 우리는 ‘통계적 규칙성이 있다’고 한다.
  • 상대도수의 극한적 개념으로 확률을 정의함으로써 상대도수가 가지는 기본적 성질을 확률이 갖도록 요구하는 것은 당연하다고 할 수 있다.
  • 이러한 확률의 정의는 고전적 정의를 특수한 경우로 포함한 일반적인 정의임을 알 수 있다. 즉, $N$개의 실현결과로 구성된 표본공간에서 각각의 실현결과가 같은 정도로 가능하다면, (b), (c)로부터 각각의 실현결과의 확률은 $1/N$이고, $m$개의 원소로 구성된 사건의 확률은 (c)로부터 $m/N$이 되어 고전적 정의에 의한 확률과 같아진다.

확률에 관한 성질

조건부 확률

• 비복원추출(sampling without replacement), 복원추출(sampling with replacement), 분할(partition)
• 전확률공식
• 베이즈 정리
  • 사전확률 (prior probability): 사건 $A_1$, …, $A_n$을 $n$가지의 ‘원인’이라고 한다면 사전확률은 ‘원인’의 가능성이라 할 수 있다.

  • 사후확률 (posterior probability): $P(A_k

    B)$는 B가 관측된 후에 ‘원인’ $A_k$의 가능성이라 할 수 있다.

  • 베이즈정리가 뜻하는 것은 관측 전의 원인에 대한 가능성과 관측 후의 원인의 가능성 사이의 관계라고 할 수 있다.

독립사건(independent events), 종속사건(dependent events)

(3) 확률변수와 확률분포

• 확률변수(Random Variable) : 표본공간 S에서 정의된 실수값 함수
• 확률분포(Probability Distribution) : 확률변수 X와 확률을 대응시켜 주는 관계
  • 확률분포표
  • 확률분포도
  • 확률밀도함수
• 확률분포함수(Probability Distribution Function)
• 이산확률변수(Discrete Random variable)
• 확률질량함수(Probability Mass function)
• 연속확률변수(Continuous Random variable)
• 확률밀도함수(Probability Density Function)

(4) 기대값과 분산

• 기대값(Expected value) : 확률변수 X에 대해 확률을 가중치로 하여 계산된 가중평균
• 분산(Variance)
• 기대값의 성질
• 분산의 성질

(5) 이산형 확률분포

초기하분포(Hyper Geometric Distribution)

• 유한모집단에서의 단순랜덤추출법 or 단순임의추출법 (simple random sampling): 크기가 N인 유한모집단에서 크기 n의 표본을 비복원으로 뽑는 법(조합)으로 구한 경우의 수가 모두 동일한 확률로 뽑힐 수 있도록 표본을 추출하는 방법
• 크기 N인 유한모집단에서 M개가 특별한 속성 A를 갖고 있고, 나머지 N-M개는 속성 A를 갖고 있지 않다고 가정하자. 이러한 모집단에서 크기 n의 표본을 단순랜덤추출할 때, 추출된 표본에서 속성 A를 갖고 있는 것의 개수를 X의 확률분포를 초기하분포라 부른다.

베르누이분포(Bernoulli Distribution)

• 베르누이 시행(Bernoulli trial): 어느 실험이 오직 두 가지 가능한 결과만을 가질 때의 시행
• 베르누이 확률변수: 베르누이시행의 표본공간 {success, fail}에서 Y(success)=1, Y(fail)=0인 확률변수를 베르누이확률변수라 한다.

이항분포(Binomial Distribution)

• 성공률이 p인 베르누이시행이 n번 독립적으로 반복시행되었을 때, 확률변수 X를 “성공횟수”라고 하자. 이 때 X의 확률분포를 시행횟수 n과 성공률 p를 갖는 이항분포라 한다.

포아송분포(Poisson Distribution)

• 포아송분포는 단위시간이나 단위공간에서 희귀하게 일어나는 사건(rare event)의 ‘횟수’ 등에 유용하게 사용될 수 있다.
• ex) 단위시간 내의 전화신청 횟수, 단위길이의 철선의 결함수, 어느 지역에서의 1일 교통사고 사망자수 등
• 포아송분포는 이항분포의 근사분포로서 정의할 수도 있다.

(6) 연속형 확률분포

정규분포(Normal Distribution)

• 다른 말로 ‘가우스분포(Gauss distribution)’

표준정규분포(Standard Normal Distribution)

• 평균이 0이고 표준편차가 1인 정규분포

다른 분포

• 지수분포
• 와이블분포
• 베타분포
• 감마분포

(7) 표본분포

확률표본

• 확률표본(random sample): 서로 독립이고 동일한 모집단 분포를 따르는 여러개의 확률변수들. 아직 관측전!
  • 확률표본은 특정한 확률변수들의 집합
  • 확률변수임을 명확히 하기 위해 대문자 사용 ($X_1$, $X_2$, …)
• 표본(sample): 확률표본이 실제값으로 관측된게 표본이다. 이제 관측 후!
  • 실현(realization) 혹은 표본화(sampling): 표본공간의 표본이 현실 세계의 데이터로 선택되는 것을 라고 한다. 표본화는 문맥에 따라 다른 의미로도 사용되는데 많은 수의 데이터 집합에서 일부 데이터만 선택하는 과정도 표본화라고 한다.
  • 소문자를 사용한다. ($x_1$, $x_2$, …)
• 통계량(statistics): 관측 가능한 확률표본의 함수. 통계량은 모집단의 어떤 특성에 관심있는가에 따라 여러 가지를 생각할 수 있다.
  • 통계량의 정의에 따라 통계량은 확률변수임을 알 수 있다.
  • 통계량은 확률변수이므로 그 분포를 갖게 된다.

표본분포

• 표본분포 (sample distribution): 통계량이 확률분포를 갖게 될 때, 통계량의 확률분포를 표본분포라고 한다.

표본평균의 분포

• 중심극한정리(Central Limit Theorem; CLT)
• 모분포의 분포모양과 무관하게 ‘표본평균’의 분포는 표본의 크기가 커질수록 정규분포를 따른다.

  이항분포의 정규근사

• 연속성 수정(Continuity Correction): 정규근사의 핵심. 이산형분포를 연속형 분포로 변환시 최소단위의 절반을 포함시켜주어야 한다.

정규모집단에서의 표본분포

여러 가지 통계적 추론에서 다양하게 사용되는 정규모집단에서의 몇 가지 중요한 표본분포들이 있다.

t-분포(Student’s t-Distribution):

카이제곱분포(Chi-square Distribution)

F-분포(F-Distribution)

Monte Carlo sampling

Monte carlo(=Money Carlo) methods(simulation)는 여러 종류의 sampling 기법들을 포괄적으로 표현하는 용어이다. 이를 응용한 방법 중 하나가 Markov Chain Monte Carlo (MCMC) sampling기법이다. Monte Carlo sampling은 시행 횟수가 늘어남에 따라 통계적 확률은 수학적 확률에 한없이 가까워진다라는 사실을 활용한 것이다. 이를 통해 수학 공식을 적용하지 않고도 확률을 계산할 수 있다. 모집단에서 데이터를 무작위로 sampling해서 미지의 모수나 함수를 추정 혹은 근사하는 방법이다.

3. 통계적 추정과 검정

(1) 통계적 추정

통계처리의 중요한 목적 중 하나는 통계량을 근거로 해서 모집단의 특성을 파악하는 것이다. 즉, 표본평균, 표본분산, 표본비율과 같은 통계량을 통해 이에 대응되는 모평균, 모분산, 모비율과 같은 모수들에 대한 통계적 추론을 하는 것이다.

모집단과 표본

• 모집단(Population): 관심의 대상이 되는 전체집단
• 모수(Parameter): 모집단의 특성을 나타내는 미지의 ‘상수’값. 확률분포를 표현하는 값.
• 표본(Sample): 모집단에서 추출되서 실제 관측된 값들의 집합. 일반적으로 확률표본(무작위 추출)
• 통계량(Statistic; 추정량(Estimator), 추정치(Estimate)) : 표본으로부터 관측된 내용
  • 추정량(Estimator): 미지의 모수를 추정하기 위해 사용되는 통계량. 알파벳. ($\bar{X}$)
  • 추정치(Estimate): 추정량이 관측되어 얻어진 값. 실제 숫자값

단순임의추출에서 주요 모수에 대한 불편추정량

하나의 모수에 대해 단 하나의 추정량만 존재하는 것은 아니다. 예를 들어 모평균에 대한 추정량으로 표본평균만 있는 것이 아니라 중앙값, 최빈값 등이 있다. 이러한 추정량 중 어떤 추정량이 모수에 대한 좋은 추정량인지 판단해야 한다. 이를 판단하는 기준으로 아래 4가지 기준이 있다. 덧붙여 분명한 사실은 표본에서 얻은 통계량 또는 추정량은 표본을 추출할 때마다 변하게 되므로 확률변수라는 것이다. 아래 4 가지 성격은 모수에 대한 추정량으로서 우리가 바라는 성격일 뿐 필수불가결한 성격은 아니다. 하지만 이러한 성격이 충족될수록 좋은 추정량이라고 판단할 수 있다.

• 불편성(Unbiasedness)
• 일치성(Consistency)
• 효율성(Efficiency): 최소분산
• 충분성(Sufficiency)

점추정과 구간추정

• 통계적 추정(Statistical Estimation)
• 점추정(Point Estimation): 하나의 값으로 모수를 추정하는 것
• 구간추정(Interval Estimation): 일정한 신뢰수준 하에서 모수가 포함되어 있으리라고 기대되는 적절한 구간을 설정하여 모수를 추정하는 것
  • 신뢰구간(confidence interval)
  • 신뢰구간 = 추정값 +- 표본오차(신뢰계수 * 표준오차) = $\bar{x}\pm t(k)\frac{s}{\sqrt{n}}$
    • 표본오차(standard error): 자료 전체가 아닌 일부의 표본을 뽑아 조사함에 따라 발생하는 오차로서 표본조사의 정확성을 나타내는 척도이다.
      • 표본오차는 추출방법에 따라 여러 가지 형식으로 나타날 수 있지만 보통 표본의 크기에 반비례한다. 따라서 표본의 크기가 증가하면 표본오차가 작아져 좀 더 정확한 추정값을 구할 수 있다. 다만, 비표본오차가 존재하므로 표본의 크기가 크다고 반드시 좋은 것만은 아니다. 표본오차는 신뢰계수가 있어야 계산 가능하고 단위에 따라 판단이 어려운 측면이 있어 상대표준오차를 병행 사용한다.
    • 비표본오차: 보통 면접방법이나 질문지 구성방식의 오류, 조사원의 자질, 조사표의 작성 또는 집계, 분석단계 등 조사의 전체 과정에서 발생할 수 있는 오차.
    • 표준오차(standard error) $\frac{s}{\sqrt{n}}$: 흩어짐의 정도를 나타내는 측도로서, 흔히 추정량의 표준편차를 사용하는데 이를 추정량의 표준오차라고 한다.
• 오차한계(Margin of Error): 모집단의 참값과 표본에서 산출되는 통계량과의 차에 관한 일정한 경계값. 즉 모수 추정치의 표본오차
• 신뢰수준(Confidence level): 가능한 모든 표본들 중에서 그 한계를 만족시키는 표본들의 비율. 100$\times$(1 - 유의수준)%
  • 신뢰수준 95%의 의미는 100번 중 95번은 신뢰구간이 모수를 포함하고 있다는 것이고 이는 95번은 올바른 구간추정이 된다는 의미이다. 다시 말해 구간추정은 실제로 한번 추출된 크기 n의 표본만 가지고 추정하므로 구해진 구간은 모수를 포함하고 있거나 또는 포함하고 있지 않거나 둘 중 하나이다.
• 오차한계와 신뢰수준의 관계
  • 신뢰수준을 크게하면 오차한계는 커진다.
  • 동일한 신뢰수준에서 오차한계를 줄이는 방법: 포본크기를 크게 하거나, 보다 정밀한 방법을 사용한다.

모평균에 대한 추정

모비율에 대한 추정

모분산과 모표준편차에 대한 추정

표본크기의 결정

(2) 통계적 가설검정

표본으로부터 주어지는 정보를 이용하여, 모수에 대한 예상, 주장 또는 단순한 추측 등의 옳고 그름을 판정하는 과정을 통계적 가설검정(statistical hypothesis thesting) 또는 간단히 검정(testing)이라 한다. 추정한걸 검정해야지 비로소 추론이 완성된다.

가설(hypothesis)

• 정의: a falsifiable claim that requires verification, typically from experimental or observational data, and that allows for predictions about future observations.
• 가설이 중요한 이유
  • Hypotheses improve experiment design, critical thinking, and data analyses.
  • Hypotheses transform loose ideas into concrete and specific claims.
  • Hypotheses are used to develop new and more accurate theories, and to dissolve bad theories.
  • Most progress in science, engineering, and medicine is the result of hypothesis-testing
• strong hypothesis를 만드는 특징들
  • clear
  • specific
  • falsifiable
  • based on prior data or theory
  • leads to a statistical test
  • a statement, not a question
  • a prediction about the direction of an effect
  • relevant for unobserved data or phenomena
  • relevant for understanding nature

귀무가설과 대립가설

• 귀무가설(null hypothesis): 데이터에서 나타나도 전혀 흥미롭지 않은 가설
• 대립가설(alternative hypothesis): effect hypothesis라고 부르는게 좋다.
  • 대립가설의 형태에 따라 단측검정이냐 양측검정이냐가 결정

모든 추론 통계는 기본적으로 특정 유형의 데이터 및 가정 유형, 귀무 가설을 생성하는 다양한 방법, 분포 등에 채택되는 signal to noise ratio이다.

귀무가설 분포와 대립가설 분포의 차이를 이해하거나 정량화하려면 정규화된(normalized) 방법이 필요하다. 이 방법은 이러한 분포의 중심(centers) 차이를 정량화하는 것이다. (= the means of these two distributions) 이때 문제가 2가지 있다.

1. 이 차이는 scale dependent하다. 길이의 경우 meter, centimeter, milimeter 등이 될 수 있다.
2. 이러한 분포의 너비(the width of these distributions)가 상당히 중요하다는 것이다.

따라서 이러한 문제로 분포 너비의 일부 기능에 의해 조정(scaled)되거나 정규화(normalized)된 중심의 차이(difference of centers)가 필요하다.

검정통계량과 기각역

• 검정통계량(test statistic) : 귀무가설과 대립가설 중 어느 하나를 채택하는 데 기준이 되는 통계량. ‘통계적으로 비교분석한다’라고 할 때 사용하는 값을 통칭. 통계적 가설의 진위여부를 검정하기 위해 ‘표본으로부터 계산’하는 통계량. 표본통계량을 2차 가공한 것 (표본통계량을 곱하고 더한 것)
• 임계값(critical value): 귀무가설을 채택할 것인지 기각할 것인지를 판정하는 기준이 되는 값. 임계값은 유의 수준 $\alpha$, 표본크기 n, 그리고 검정통계량의 분포에 의해 결정된다.
• 기각역(rejection region, critical region): 귀무가설을 기각하여 대립가설을 채택하는 검정통계량의 영역. 임계값이 결정되면 만들어지는 영역

제1종 오류와 제2종 오류

• 제 1종오류 : 귀무가설이 사실일 때 귀무가설을 기각하는 오류
• 제 2종오류 : 대립가설이 사실일 때 귀무가설을 채택하는 오류
• 유의수준($\alpha$, significance level) : 제1종 오류를 범할 확률의 최대허용한계. 즉, 유의수준이 $\alpha$인 검정법이란 제 1종오류를 범할 확률이 $\alpha$ 이하인 검정법을 뜻한다.
• 검정력(power): 1-$\beta$

양측검정과 단측검정

• 양측검정(two-sided test)
• 단측검정(one-sided test)

가설검정순서

1. 귀무가설과 대립가설(연구가설) 설정
2. 유의수준과 임계값 결정
3. 귀무가설의 채탱영역과 기각영역 결정
4. 검정통계량의 계산
5. 검정통계량 값과 임계값의 비교를 통해 결론

구간추정과 가설검정 관계

구간추정과 가설검정은 서로 보는 관점이 다를 뿐이지 별개의 것이 아니다.

• 구간추정은 내부(신뢰구간)에 관심. 모수가 있음직한 신뢰구간을 구하는 것
• 가설검정은 외부(기각영역)에 관심. 귀무가설의 모수가 없음직한 기각역을 설정

유의확률 (p-value)

• 통계적 유의성 검정(statistical significance testing)은 처리효과가 우연에 의한 것인지 통계적으로 유의한 것인지를 결정하는 것
• significance probability

모수적 검정에서 귀무가설의 분포($H_O$ distribution)는 공식(방정식)에 의해서 만들 수 있다. 하지만 대립가설의 분포는 우리가 알 수가 없다. 분포 대신 대립가설 통계량 값 하나($H_A$ value)로 검정한다. 이때 관찰된 효과($H_A$ value)가 우연히 발생하였다고 말할 수 없을 정도로 충분히 클 때 그 효과는 통계적으로 유의하다고 말한다. 이때 중요한 점은 우리는 $H_A$가 참인지는 증명할 수 없다. 단지 우리가 할 수 있는건 효과가 없다고 가정했을 때 (=귀무가설이 참이라고 가정했을 때) $H_A$와 관련된 검정통계량이 관찰될 확률을 계산할뿐이다.

모수적 검정과 비모수적 검정

비모수적(non-parametric)이라는 말은 가우시안 분포처럼 어떤 특정 분포를 가정하지 않았다는 뜻이다. 추론할 때도 공식(equation)을 사용해서 귀무가설 분포를 만들지 않고 데이터를 통해서 만든다. 비모수적 검정에 대해서는 chapter 8에서 자세히 다룰 예정이다.

Multiple comparisons and Bonferroni correction

4. 평균차이 검정(t-test)

(1) 평균차이 검정(t-test) 개념

t-test의 가정

1. 수치형 데이터 타입(일반적으로 interval이나 ratio)
2. 데이터는 서로 독립이다.
3. 데이터는 일반화할 수 있는 모집단으로부터 랜덤으로 뽑혔다.
4. 평균과 표준편차는 중심과 산포도를 나타낼 수 있는 valid descriptor이다 (즉, 정규분포를 따른다)

(2) 평균차이 검정 분류

단일 모집단에 대한 검정(집단 1개)

다른 표현으로 단일표본 평균차이 검정(one sample t-test)이라고도 한다. 모집단의 평균이 기준이 되는 어떤 평균값과의 차이가 있는지 없는지 살펴보는 검정방법이다. 실질적인 통계분석 문제에서는 모분산도 모르고 소표본인 경우에 주로 행해진다. 이 경우 검정통계량의 분포가 t분포를 따르기 때문에 t-test라고 부른다. 이때 귀무가설은 ‘모집단의 평균과 기준이되는 어떤 평균값과의 차이가 없다’이다.

• 모평균에 대한 검정
  • 모분산 $\sigma^2$이 알려져 있는 경우
    • 검정통계량 : $Z=\frac{\bar{x}-\mu_0}{\sigma/\sqrt{n}}$
  • 모분산 $\sigma^2$이 알려져 있지 않은 경우
    • 검정통계량 : $T=\frac{\bar{x}-\mu_0}{s/\sqrt{n}}=\frac{(\bar{x}-\mu_0)\sqrt{n}}{s}$
• 모비율에 대한 검정
  • 이항비율 검정(binomial proportion test)
    • 검정통계량 : $\sum_{k=0}^{x}\binom{n}{k}p_0^k(1-p_0)^{n-k}$
  • 정규근사 검정(표본의 크기가 충분히 큰 경우)
    • 표본의 크기가 충분히 큰 경우 표본비율 $\hat{p}=x/n$은 평균이 $p$이고 분산이 $p(1-p)/n$인 정규분포를 따른다.
    • 검정통계량 : $Z=\frac{\hat{p}-p_0}{p_0\sqrt{(1-p_0)/n}}$
• 모분산에 대한 검정
  • 카이제곱분포를 따른다.
  • 검정통계량 : $\chi^2=\frac{(n-1)S^2}{\sigma_0^2}$

두 모집단에 대한 비교 (집단 2개)

two sample t-test는 두 데이터 집합이 같은 분포에서 추출된건지 여부를 검정한다. 검정통계량의 분자는 항상 $\bar{x_1}-\bar{x_2}$로 같은데 분모가 검정종류에 아래 3가지 기준에 따라서 나뉜다.

• paired vs. unpaired
  • paired: paired samples t-test
  • unpaired: independent two sample t-test
• equal variance vs. unequal Variance (주관적으로 해석하기 나름. 등분산검정을 하기도 한다.)
  • equal variance: 같은 모집단에서 나왔을거라 가정하고 같은 분산을 가진다고 가정.
  • unequal variance: 다른 그룹에서 나온거 같아서 다른 분산을 가진다고 가정.
• equal sample size vs. unequal sample size

독립표본에 의한 두 모평균의 비교: 독립표본 t-검정

독립표본 평균차이 검정(independent two sample t-test)은 독립적인 두 모집단의 평균이 같은지 틀린지를 살펴보는 검정방법이다. 두 확률표본이 두 모집단으로부터 각기 독립적으로 관측되었다는 것이다. 이때 모집단은 각각 정규분포를 가정한다. 이때 각 집단의 표본크기가 작은 경우 모집단의 정규성 검정을 하는 것이 좋다. 정규성 가정을 만족시키지 못한다고 생각되는 자료는 독립표본 t검정을 시행하기보다는 비모수적 검정방법인 맨-휘트니의 두 표본 검정방법을 사용하는 것이 좋다.

검정통계량의 형태는 두 모집단의 분산을 모르기는 하지만 1) 같다고 가정할 수 있는 경우와 2) 같다고 가정할 수 없는 경우에 따라 다르게 표현한다. 또한 두 모집단의 분산이 같은지 틀린지에 따라 검정통계량의 형태가 달라지기 때문에 두 모분산에 대한 동질성(homogeneity of variance)을 먼저 검정해야 한다. 즉, 등분산검정을 시행한다.

t-test에 앞서 (a) 집단별 기술통계량을 살펴보고 (b) 분산에 대한 검정, 그리고 (c) 분산에 대한 검정 결과에 따라 t-test를 시행한다.

• 모분산 $\sigma_1^2$과 $\sigma_2^2$이 알려진 경우

• 모분산 $\sigma_1^2$과 $\sigma_2^2$을 모르는 경우

  • 표본크기가 충분히 클 때
  • $\sigma_1^2$ = $\sigma_2^2$ (= $\sigma^2$) : 두 모집단은 미지의 동일한 모분산을 갖는다는 조건
  • $\sigma_1^2$ ≠ $\sigma_2^2$

대응표본에 의한 두 모평균의 비교: 대응표본 t-검정

대응표본 t검정(paired samples t-test)는 실험 전후의 결과값 같이 연관성이 존재하는 두 표본에 대해서 실시하는 검정이다. 같은 그룹이 2번 응답한 경우 각각의 응답을 two-sample로 본다.

독립표본에 의한 두 모비율의 비교

쌍 관측에 의한 두 모비율의 비교 - 맥니머 검정

모분산의 동일성에 대한 검정