Czasem, gdy specjalista ds. systemów uczących się ma wiedzę z danej dziedziny, która sugeruje, że jedna zmienna jest powiązana z kwadratem, sześcianem lub inną potęgą innej warto utworzyć funkcja syntetyczna z jednego istniejących funkcji liczbowych.
Przeanalizujmy następujący rozkład punktów danych, gdzie różowe okręgi oznaczają jedną klasę lub kategorię (np. gatunek drzewa) i zielone trójkąty; innej klasy (lub gatunku drzewa):
Nie można narysować linii prostej, która oddzieli je wyraźnie , ale można narysować krzywą, która ma taką postać:
Jak już wspomnieliśmy w Moduł regresji liniowej, model liniowy z jedną cechą, , został opisany równaniem liniowym:
Dodatkowe funkcje są obsługiwane przez dodanie warunków , itp.
Spadek gradientowy znajduje weight (lub wagi , , w przypadku dodatkowych funkcji), który minimalizuje utratą modelu. Nie mogą one być jednak rozdzielone linią. Co można zrobić w tej sprawie?
Można zachować zarówno równanie liniowe, jak i zezwolić na nieliniowość definiując nowe hasło , nazywane kwadratem:
Ta syntetyczna cecha, zwana przekształceniem wielomianowym, jest traktowana jak z inną funkcją. Poprzednia formuła liniowa zmieni się na:
Nadal można to potraktować jako regresja liniowa a wagi określane przez opadanie gradientowe, jak zwykle, zawierający element ukryty do kwadratu, transformatę wielomianową. Bez zmiany w trenowaniu modelu liniowego, dodanie transformacji wielomianowej umożliwia modelu do rozdzielania punktów danych za pomocą krzywej form .
Zazwyczaj dana funkcja liczbowa jest mnożona przez siebie, czyli podniesienie do pewnej mocy. Czasami specjalista ML może wyciągnąć świadome zgadywanie dla odpowiedniego wykładnika. Na przykład wiele relacji w wymiarze fizycznym światy są powiązane z wyrazami podniesionymi do kwadratu, łącznie z przyspieszeniem grawitacyjnym, absorpcja światła lub dźwięku w odległości oraz sprężysta energia potencjalna.
Pokrewne pojęcie w: dane kategorialne to cecha różna, a więcej często łączy 2 różne cechy.