Change of Representation and Inductive Bias - 9780792390558

Zmiana reprezentacji i błąd indukcyjny Jedną z najważniejszych pojawiających się obaw badaczy uczenia maszynowego jest zależność ich programów uczenia się od podstawowych reprezentacji, zwłaszcza od języków używanych do opisu hipotez. Skuteczność algorytmów uczenia się jest bardzo wrażliwa na ten wybór języka, wybranie zbyt dużego języka pozwala na uwzględnienie przez program zbyt wielu możliwych hipotez, co wyklucza efektywne uczenie się, ale wybranie zbyt małego języka może uniemożliwić programowi znalezienie akceptowalnych hipotezy. Ta zależność to nie tylko pułapka, ale także szansa. Prace Saula Amarela prowadzone w ciągu ostatnich dwudziestu lat wykazały skuteczność zmiany reprezentacji jako techniki rozwiązywania problemów. Coraz większa liczba badaczy zajmujących się uczeniem maszynowym tworzy programy, które uczą się zmieniać język, aby poprawić ich skuteczność. Podczas Czwartych Warsztatów dotyczących uczenia maszynowego, które odbyły się w czerwcu 1987 roku na Uniwersytecie Kalifornijskim w Irvine, stało się jasne, że zarówno społeczność zajmująca się uczeniem maszynowym, jak i liczba poruszanych przez nią tematów rozrosła się do tego stopnia, że kwestia reprezentacji nie mogła być omawiana w wystarczająca głębokość. Wielu uczestników było szczególnie zainteresowanych powiązanymi tematami, takimi jak indukcja konstruktywna, przeformułowanie problemu, wybór reprezentacji i wiele poziomów abstrakcji. Rob Holte, Larry Rendell i ja postanowiliśmy zorganizować warsztaty w 1988 roku, aby omówić te tematy. Aby warsztaty były niewielkie, zdecydowaliśmy, że udział w nich będzie możliwy wyłącznie za zaproszeniem.