클래스: 인공지능 소개

무료이용으로 수강해 보세요.

업계 전문가가 강의하는 클래스 24,200개를 수강하세요.

활성화 편향

활성화 편향

클래스: 인공지능 소개

1개월 무료이용 시작 단체용 구매

활성화 편향

“

- 인공 신경망은 자체 튜닝입니다. 당신은 그것이 악기와 같다는 것을 보았습니다. 완벽한 음의 출력을 비교한 다음 이 소리에 맞게 자체 다이얼을 비틀습니다. 그러나 결국 인공 신경망은 여전히 기계 학습의 한 형태입니다. 이는 시스템이 학습하는 데 도움이 되는 것과 동일한 도구와 기술을 많이 사용한다는 것을 의미합니다. 인공 신경망이 연결에 가중치를 추가하여 스스로를 조정한다는 것을 이미 보았지만 이러한 연결에 가중치를 추가하면 분산만 수정됩니다. 앞서 시스템이 과녁 근처의 빽빽한 클러스터에 다트를 던지려고 한다는 것을 기억하십시오. 네트워크는 다트를 던진 다음 올바른 예측을 하는 데 얼마나 가까운지 측정합니다. 그런 다음 무게를 조정하고 다른 다트를 던져 더 가까운지 확인합니다. 예측을 수행할 때는 데이터의 편향과 분산의 균형을 맞춰야 한다는 점을 기억하십시오. 이를 편향 분산 트레이드 오프(bias variance trade-off)라고 합니다. 따라서 분산을 조정하면 편향에 영향을 미칩니다. 인공 신경망에서 바이어스는 시스템이 각 뉴런에 할당하는 숫자입니다. 이 바이어스 숫자는 데이터를 더 정확하게 만들기 위해 다른 방향으로 이동합니다. 신경망은 데이터 편향과 데이터 분산 사이의 스위트 스폿을 찾기 위해 스스로를 조정해야 합니다. 자체적으로 조정해야 하는 메인 다이얼은 연결에 가중치를 추가하고 뉴런에 바이어스를 추가하는 것입니다. 때로는 인공 신경망이 이 튜닝 과정을 거치게 하는 것에 대해 거의 기분이 나쁠 것입니다. 분산형 분산을 줄이기 위해 연결의 가중치를 조정하지만 대상에서 약간 멀어집니다. 그런 다음 이동을 수정하기 위해 편향을 추가하지만 데이터가 다시 분산됩니다. 인간은 이것이 매우 실망스러울 것입니다. 마치 기계가 촘촘한 대형으로 다트를 던지려고 하는 동시에 바이어스를 사용하여 전체 다트판을 과녁에 더 가깝게 이동시키는 것과 같습니다. 게다가 인공 신경망은 데이터를 과적합하는 경향이 있습니다. 과적합은…

목차