딥러닝/Bio-Med
-
네이쳐 article을 읽고 정리 Main 의사들은 환자 병력 정보, 영상 검사 결과 등 다양한 기록들을 보고 궁극적으로 note에 문서화하게 된다. EHR 같은 정형화된 데이터는 데이터 프로세싱이 어렵고 학습을 해도 실제로 사용할만한 결과를 얻기 어렵다. (last mile problem) LLM은 자연어에 대해 독해와 해석에 있어서 영향력있는 결과를 얻을 수 있는 정도까지의 발전이 이루어졌다. ⇒ 본 article을 작성한 저자들은 LLM이 의사가 작성한 note를 읽음을 통해 광범위한 임상 및 운영 업무 전반에 걸쳐 의사 결정을 지원할 수 있을 것이라고 바라보았다. 저자들은 note들과 electronic order이 중심이 되는 clinical 워크 플로우와 실시간으로 통합될 수 있는 LLM 기반..
Health system-scale language models are all-purpose prediction engines네이쳐 article을 읽고 정리 Main 의사들은 환자 병력 정보, 영상 검사 결과 등 다양한 기록들을 보고 궁극적으로 note에 문서화하게 된다. EHR 같은 정형화된 데이터는 데이터 프로세싱이 어렵고 학습을 해도 실제로 사용할만한 결과를 얻기 어렵다. (last mile problem) LLM은 자연어에 대해 독해와 해석에 있어서 영향력있는 결과를 얻을 수 있는 정도까지의 발전이 이루어졌다. ⇒ 본 article을 작성한 저자들은 LLM이 의사가 작성한 note를 읽음을 통해 광범위한 임상 및 운영 업무 전반에 걸쳐 의사 결정을 지원할 수 있을 것이라고 바라보았다. 저자들은 note들과 electronic order이 중심이 되는 clinical 워크 플로우와 실시간으로 통합될 수 있는 LLM 기반..
2023.06.11 -
Inductive bias for Image Modality Biomedical 분야에서는 이미지 deep learning 연구가 활발하게 이루어지고 있다. 하나의 이미지는 3차원 (C, H, W)으로 구성되어 있다. 이미지는 0-255의 값으로 구성되어 있다. 보통 255로 나누어 Min-max Normalize 하거나 Normal Distribution 기반으로 normalization한다. CNN은 local 한 feature를 잘 잡는다는 Inductive bias를 갖고 있다. CNN layer의 특징은 weight sharing을 한다는 것인데, 그렇기 때문에 아래에 있는 3이라는 글자를 보면, 3이라는 글씨에는 꺾이는 부분이 있고 이런 꺾임 현상이 여러 곳에서 나타난다. 이렇게 꺾인 곳(반복..
CNN for Biomedical ImageInductive bias for Image Modality Biomedical 분야에서는 이미지 deep learning 연구가 활발하게 이루어지고 있다. 하나의 이미지는 3차원 (C, H, W)으로 구성되어 있다. 이미지는 0-255의 값으로 구성되어 있다. 보통 255로 나누어 Min-max Normalize 하거나 Normal Distribution 기반으로 normalization한다. CNN은 local 한 feature를 잘 잡는다는 Inductive bias를 갖고 있다. CNN layer의 특징은 weight sharing을 한다는 것인데, 그렇기 때문에 아래에 있는 3이라는 글자를 보면, 3이라는 글씨에는 꺾이는 부분이 있고 이런 꺾임 현상이 여러 곳에서 나타난다. 이렇게 꺾인 곳(반복..
2023.06.10 -
Data Modality Modality가 무엇일까? Multi-Modal 이라는 말을 많이 들어봤을 것이다. Modality란 각각의 데이터 타입의 특징에 맞게 분류하는 것 ⇒ 이에 맞게 모델을 선택한다. = Inductive bias를 고려한다. 따라서 Modality의 특징을 잘 정의하고 모델을 선택하는 과정이 중요하다. 다시 Multi Modal로 돌아와서 살펴보면 아래 그림처럼 모델의 input으로 음성, 텍스트, 비디오 등 다양하게 넣기 때문에 다양한 관점(Multi Modality)에서 볼 수 있다. 또한 중요한 것은 Modality에 맞는 모델을 각각 만들어서 넣어주어야 한다는 점이다. Biomedical data modality One-hot encoding 원-핫 인코딩은 단어 집합의 ..
Data Modality of Biomedical dataData Modality Modality가 무엇일까? Multi-Modal 이라는 말을 많이 들어봤을 것이다. Modality란 각각의 데이터 타입의 특징에 맞게 분류하는 것 ⇒ 이에 맞게 모델을 선택한다. = Inductive bias를 고려한다. 따라서 Modality의 특징을 잘 정의하고 모델을 선택하는 과정이 중요하다. 다시 Multi Modal로 돌아와서 살펴보면 아래 그림처럼 모델의 input으로 음성, 텍스트, 비디오 등 다양하게 넣기 때문에 다양한 관점(Multi Modality)에서 볼 수 있다. 또한 중요한 것은 Modality에 맞는 모델을 각각 만들어서 넣어주어야 한다는 점이다. Biomedical data modality One-hot encoding 원-핫 인코딩은 단어 집합의 ..
2023.06.08