<div id="readability-page-1" class="page"><div>


    

    <article>
        <ul>
  <li><a href="#1-basic-interview-questions">1. Basic Interview Questions</a>
    <ul>
      <li><a href="#11-bias---variance-tradeoff">1.1 Bias - Variance Tradeoff</a></li>
    </ul>
  </li>
  <li><a href="#2-ml-performance">2. ML Performance</a>
    <ul>
      <li><a href="#21-roc-auc">2.1 ROC AUC</a></li>
      <li><a href="#22-prauc">2.2 PrAUC</a></li>
    </ul>
  </li>
</ul>

        <h2 id="1-basic-interview-questions">1. Basic Interview Questions</h2>

<h2 id="11-bias---variance-tradeoff">1.1 Bias - Variance Tradeoff</h2>

<ul>
  <li>Bias: underfitting</li>
  <li>Variance: Overfitting</li>
</ul>

<p>중간지점을 잘 찾아서 균형을 찾는게 관건.</p>

<ul>
  <li>Bias 줄이기
    <ul>
      <li>linear model -&gt; Polynomial, Deep Network</li>
      <li>학습 시간 늘리기,</li>
      <li>feature engineering, loss function 개선</li>
    </ul>
  </li>
  <li>Variance 줄이기
    <ul>
      <li>L1, L2, Dropout 같은 regularization 추가</li>
      <li>pruning, depth 줄이기</li>
      <li>더 많은 데이터 추가</li>
      <li>Bagging, Boosting 같은 ensemble learning 사용 (random forest)</li>
    </ul>
  </li>
</ul>

<p><strong>수학적으로 설명</strong></p>

<ul>
  <li>Bias: 모델 평균 예측값 -  실제 f(x) 차이 : \(\left( f(x) - E\left[ \hat{f}(x) \right] \right)^2\)</li>
  <li>Variance: 모델 예측값 - 모델 예측값의 평균값  : \(E \left[ \left(\hat{f}(x) - E\left[ \hat{f}(x) \right] \right)^2 \right]\)</li>
</ul>

<p>Bias Variance Decomposition 저 위의 공식이 나옴. 
제곱 있는건 MSE에서  decomsition 해서 그러함.</p>

<p><img src="http://incredible.ai/assets/images/bias-variance-math-formula.png"></p>

<h2 id="2-ml-performance">2. ML Performance</h2>

<h2 id="21-roc-auc">2.1 ROC AUC</h2>

<p><strong>ROC</strong></p>

<ul>
  <li>ROC: Receiver Operating Characteristic curve</li>
  <li>X축: FPR (False Positive Rate) \(FPR = \frac{FP}{FP + TN}\)</li>
  <li>Y축: TPR (True Positive Rate) \(TPR = \frac{TP}{TP + FN}\)</li>
  <li>threshold 를 움직이면서 각각을 모두 계산하는 방법
    <ul>
      <li>ex) threshold = 0.7 이면 0.7이상은 positive 이고, 이하는 negative 로 설정</li>
    </ul>
  </li>
</ul>

<p><strong>ROC AUC</strong></p>

<ul>
  <li>ROC Curve 아래 면적 (Area Under Curve)</li>
  <li>수치
    <ul>
      <li>0.5: 랜덤</li>
      <li>1.0: 완벽 구분</li>
      <li>0: 완전히 반대로 예측</li>
    </ul>
  </li>
</ul>

<p><img src="http://incredible.ai/assets/images/ROC-curves-and-area-under-curve-AUC.png"></p>

<h2 id="22-prauc">2.2 PrAUC</h2>

<ul>
  <li>x축: \(Recall = \frac{TP}{TP + FN}\) (positive로 예측한것 중에 진짜 positive 비율)</li>
  <li>y축: \(Precision = \frac{TP}{TP + FP}\)</li>
</ul>

<p>해석</p>
<ul>
  <li>recall: 실제 y=1 에서 모델이 positive를 맞춘 비율</li>
  <li>precision: 모델이 y_predict = 1 로 예측한것 중에 실제 맞춘 비율</li>
  <li>관계
    <ul>
      <li>recall 과 precision은 서로 trade-off 관계</li>
      <li>모든 값을 y_predict = 1 로 예측시 recall 은 1이 나옴</li>
      <li>엄청나게 확신갖는것만 y_predict = 1 로 예측시 precision은 높아짐 하지만 recall은 낮아짐</li>
    </ul>
  </li>
  <li>PrAUC 는 positive가 매우 적은 상황에서 accuracy 보다 더 신뢰 할수 있음.</li>
</ul>

<p><img src="http://incredible.ai/assets/images/prauc-graph.png"></p>

    </article>

    
    

    
    
    
    
</div></div>

Incredible.AI

1. Basic Interview Questions
1.1 Bias - Variance Tradeoff
Bias: underfitting
Variance: Overfitting
중간지점을 잘 찾아서 균형을 찾는게 관건.
Bias 줄이기
    
linear model -> Polynomial, Deep Network
학습 시간 늘리기,
feature engineering, loss function 개선
Variance 줄이기
    
L1, L2, Dropout 같은 regularization 추가
pruning, depth 줄이기
더 많은 데이터 추가
Bagging, Boosting 같은 ensemble learning 사용 (random forest)
수학적으로 설명
Bias: 모델 평균 예측값 -  실제 f(x) 차이 : \(\left( f(x) - E\left[ \hat{f}(x) \right] \right)^2\)
Variance: 모델 예측값 - 모델 예측값의 평균값  : \(E \left[ \left(\hat{f}(x) - E\left[ \hat{f}(x) \right] \right)^2 \right]\)
Bias Variance Decomposition 저 위의 공식이 나옴. 
제곱 있는건 MSE에서  decomsition 해서 그러함.
2. ML Performance
2.1 ROC AUC
ROC
ROC: Receiver Operating Characteristic curve
X축: FPR (False Positive Rate) \(FPR = \frac{FP}{FP + TN}\)
Y축: TPR (True Positive Rate) \(TPR = \frac{TP}{TP + FN}\)
threshold 를 움직이면서 각각을 모두 계산하는 방법
    
ex) threshold = 0.7 이면 0.7이상은 positive 이고, 이하는 negative 로 설정
ROC AUC
ROC Curve 아래 면적 (Area Under Curve)
수치
    
0.5: 랜덤
1.0: 완벽 구분
0: 완전히 반대로 예측
2.2 PrAUC
x축: \(Recall = \frac{TP}{TP + FN}\) (positive로 예측한것 중에 진짜 positive 비율)
y축: \(Precision = \frac{TP}{TP + FP}\)
해석
recall: 실제 y=1 에서 모델이 positive를 맞춘 비율
precision: 모델이 y_predict = 1 로 예측한것 중에 실제 맞춘 비율
관계
    
recall 과 precision은 서로 trade-off 관계
모든 값을 y_predict = 1 로 예측시 recall 은 1이 나옴
엄청나게 확신갖는것만 y_predict = 1 로 예측시 precision은 높아짐 하지만 recall은 낮아짐
PrAUC 는 positive가 매우 적은 상황에서 accuracy 보다 더 신뢰 할수 있음.

ML Interview Questions

댓글