Machine_Learning_Supervised_Learning.xml.sdlxliff
ACHTUNG: Ändern Sie nicht die Segment-ID oder den Ausgangstext
MQ902410 fb618d30-e615-4e3d-8f22-f6ab8ce71292	
ID	Englisch (USA)	Deutsch (Deutschland)	
1 
39d32a6f-d222-4dcc-9212-4aa644321f1c	DLBDSMLSL01 Machine Learning—Supervised Learning	DLBDSMLSL01 Maschinelles Lernen - Überwachtes Lernen	
2 
3e42425d-feee-42e0-b310-45cabe1cd6b3	Frontmatter	Titelbild	
3 
7fa4eb0e-d26c-42a9-9a20-60164c48042b	Cover Page	Titelseite	
4 
fb5df59e-ca62-4f95-acb0-d9c45eab3e56	[1]	[1]	
5 
1892e45d-bc22-46f7-a6c8-357723d7b174	META:	META:	
6 
a159fcb0-2e1f-422f-adbf-2bbf41c44102	CST_SCRIPTTITLE	CST_SCRIPTTITLE	
7 
5ac4d996-a7aa-43ce-baa6-c51f9b49de3d	META:	META:	
8 
d0c3221e-ec93-4f36-962d-683deb24a638	CST_COURSECODE	CST_COURSECODE	
9 
afa2bc3b-602f-49d0-b1a5-1ff35ce60e3d	Main title	Hauptsachtitel	
10 
95b0f1bd-1c8f-4f32-ba21-40d4d9c51a44	META:	META:	
11 
d3b94ad8-2ed0-4c35-b4a8-d92e41ff2926	CST_SCRIPTTITLE	CST_SCRIPTTITLE	
12 
871f06a3-547e-4f50-ac97-7c82742573a0	Masthead	Impressum	
13 
9cdc192e-69b0-427e-9f88-f950e0ae1f37	Publisher:	Herausgeber:	
14 
131b2b4f-cc44-4a57-9a17-e225dd8f308f	IU Internationale Hochschule GmbH	IU Internationale Hochschule GmbH	
15 
32e1d150-8db3-4b10-87fe-d2cccc91179f	IU International University of Applied Sciences	IU International University of Applied Sciences	
16 
832d8ac7-3cea-4887-9581-56b3db5439b4	Juri-Gagarin-Ring 152	Juri-Gagarin-Ring 152	
17 
735eff16-6b27-4a64-887c-f2e2a21d0493	D-99084 Erfurt	D-99084 Erfurt	
18 
bfa0a82e-a592-40ba-8950-90e637075f27	Mailing address:	Postadresse:	
19 
93ed8671-0a12-4a23-8172-ccc38f0d5446	Albert-Proeller-Straße 15-19	Albert-Proeller-Straße 15-19	
20 
1e2a5861-008c-40a9-99be-16ee063bdbbf	D-86675 Buchdorf	D-86675 Buchdorf	
21 
f6b90896-d8c3-4f76-9653-87b803a1abba	media@iu.org	media@iu.org	
22 
cd01ee85-28a7-4f68-a547-8e5ecb30126e	www.iu.de	www.iu.de	
23 
0850d05f-545c-4f9d-9b60-477031588440	META:CST_COURSECODE	META:CST_COURSECODE	
24 
32df4145-13e8-487e-8d38-ce0665c3b72c	Version No.:	Versionsnr.:	
25 
e90fd94c-8524-469e-acf3-a265a47a0c1d	[1}META:CST_VERSIONNUMBER{2]	[1}META:CST_VERSIONNUMBER{2]	
26 
d05d6473-75d0-42a8-b300-738a2d1ce06b	META:AUTHOR	META:AUTHOR	
27 
92f7812e-0130-4704-9218-001441d7e7ad	© [1}META:CST_COPYRIGHTYEAR{2] IU Internationale Hochschule GmbH	© [1}META:CST_COPYRIGHTYEAR{2] IU Internationale Hochschule GmbH	
28 
bef80e1b-bd5d-4608-9976-e12dbff18df3	This course book is protected by copyright.	Dieses Studienskript ist urheberrechtlich geschützt.	
29 
0b18c950-b2a8-4cd9-b985-bb1f2062e9ee	All rights reserved.	Alle Rechte vorbehalten.	
30 
4f3ea9ff-edd0-4eed-97ac-18e94798c253	This course book may not be reproduced and/or electronically edited, duplicated, or distributed in any kind of form without written permission by the IU Internationale Hochschule GmbH (hereinafter referred to as IU).	Dieses Studienskript darf in jeglicher Form nicht ohne vorherige schriftliche Genehmigung der IU Internationale Hochschule GmbH (im Folgenden „IU“) reproduziert und/oder unter Verwendung elektronischer Systeme verarbeitet, vervielfältigt oder verbreitet werden.	
31 
e300955a-69c4-4b46-a72c-45a69080437f	The authors/publishers have identified the authors and sources of all graphics to the best of their abilities.	Die Autor:innen/Herausgeber:innen haben sich nach bestem Wissen und Gewissen bemüht, die Urheber:innen und Quellen der verwendeten Abbildungen zu bestimmen.	
32 
53b0b5b5-589e-4d4b-bf5d-6fdb11ba5e1a	However, if any erroneous information has been provided, please notify us accordingly.	Sollte es dennoch zu irrtümlichen Angaben gekommen sein, bitten wir um eine dementsprechende Nachricht.	
33 
c95629c4-72c3-4bd8-9f91-eeb257c3d575	Prof. Dr. Christian Müller-Kett	Prof. Dr. Christian Müller-Kett	
34 
82fe6df2-387c-4385-bd94-ab0496641ed3	Mr. Müller-Kett has been a professor of data science at IU International University of Applied Sciences since 2020.	Herr Müller-Kett ist seit 2020 Professor für Data Science an der IU International University of Applied Sciences.	
35 
4704c018-cdb3-496f-ae08-a7e11a4abaf2	He studied biology and integrated geography with a focus on system modeling and geodata processing at Radboud University Nijmegen, Albert-Ludwigs-University Freiburg, and Humboldt University Berlin.	Er studierte Biologie und integrierte Geographie mit den Schwerpunkten Systemmodellierung und Geodatenverarbeitung an der Radboud University Nijmegen, der Albert-Ludwigs-Universität Freiburg und der Humboldt-Universität Berlin.	
36 
ca606eac-6381-4275-ad21-24d1f4dc867b	He received his doctorate from Ruhr Univeristy Bochum upon completion of his thesis concerning system-oriented spatial simulations for sustainable urban planning in the field of urban analytics and geoinformatics.	Er promovierte an der Ruhr-Universität Bochum mit einer Arbeit über systemorientierte räumliche Simulationen für eine nachhaltige Stadtplanung im Bereich der Stadtanalytik und Geoinformatik.	
37 
ad0e7520-f099-425e-b123-f8f8d42ab67a	In his professional work, he acts in a consultative capacity, focusing on the management and analysis of spatial data, predictive analysis, the Internet of Things, big data, and distributed cloud computing.	In seiner beruflichen Tätigkeit ist er beratend tätig und konzentriert sich auf die Verwaltung und Analyse von Geodaten, prädiktive Analysen, das Internet der Dinge, Big Data und verteiltes Cloud Computing.	
38 
9412140b-1fa6-429d-bcbf-71b53a3fdb8e	His research primarily concerns machine learning techniques in sustainable spatial planning, limnology, and remote sensing.	Seine Forschungsarbeiten befassen sich hauptsächlich mit Techniken des maschinellen Lernens in den Bereichen nachhaltige Raumplanung, Limnologie und Fernerkundung.	
39 
4cab233f-1855-4ab1-b7d0-351701ab227f	He has completed such research during his stays abroad in the United States, Argentina, and Japan.	Er hat solche Forschungen während seiner Auslandsaufenthalte in den Vereinigten Staaten, Argentinien und Japan durchgeführt.	
40 
80727153-810e-40ec-9de9-a4ac7c6cb902	[1]	[1]	
41 
6540f9e1-314e-460a-b093-2e9d2c011667	Table of Contents	Inhaltsverzeichnis	
42 
be815faf-2cd6-4bda-ae12-9c0d99e2adda	Introduction	Einführung	
43 
29037d79-ea1b-45ae-b219-9a51ba7fd14a	Introduction	Einführung	
44 
fb26c53e-6175-46b4-a3d3-ffc42615ca99	Welcome	Herzlich willkommen	
45 
e8b94322-7876-4daf-a3ef-8e235d0ccbe8	Signposts Throughout the Course Book	Wegweiser durch das Studienskript	
46 
8e63e8e5-b2c1-43bb-bee1-f0e4ab87a345	This course book contains the core content for this course.	Dieses Studienskript deckt alle zentralen Themen des Kurses ab	
47 
6cc8c7c2-f3a9-4595-8b38-78cb2d54133e	Additional learning materials can be found on the learning platform, but this course book should form the basis for your learning.	und sollte Ihnen daher als primäre Lerngrundlage dienen. Zusätzliche Materialen finden Sie auf unserer Lernplattform.	
48 
6bf4e1d8-9b17-41a4-9c94-82e2fa16d04a	The content of this course book is divided into units, which are divided further into sections.	Die Inhalte des Skripts sind in Lektionen unterteilt, die sich wiederum in verschiedene Abschnitte gliedern.	
49 
2a0f1aa9-0de8-47ae-97f5-cee22a5c7975	Each section contains only one new key concept to allow you to quickly and efficiently add new learning material to your existing knowledge.	Dabei stellt jeder Abschnitt jeweils nur einen neuen Schwerpunkt vor, damit Sie Ihre bestehenden Kenntnisse schnell und effizient um den neuen Lernstoff erweitern können.	
50 
40b4f582-2f65-4908-ad7f-46d78a0a3f14	At the end of each section of the digital course book, you will find self-check questions.	Außerdem finden Sie am Ende jeder Lektion des digitalen Studienskripts Fragen zur Wissenskontrolle,	
51 
e40abb40-f503-44fe-88bb-47c6624ffb24	These questions are designed to help you check whether you have understood the concepts in each section.	die Ihnen ein Feedback zu Ihren Lernfortschritten liefern. So können Sie sichergehen, dass Sie alle wichtigen Punkte verstanden haben.	
52 
b849fadb-6b94-47eb-a882-3f1830282c34	For all modules with a final exam, you must complete the knowledge tests on the learning platform.	Um an der Abschlussprüfung für Ihr Modul teilnehmen zu können, müssen Sie alle Wissenstests auf der Lernplattform erfolgreich absolvieren.	
53 
5e693251-e2e9-4173-94ca-0b38bc3e22f1	You will pass the knowledge test for each unit when you answer at least 80% of the questions correctly.	Dieses Kriterium ist für eine Lektion erfüllt, wenn Sie mindestens 80 % der Fragen zu dieser Lektion richtig beantworten.	
54 
8b3cbc16-9fdb-4ce2-b76e-1022a4bf56b2	When you have passed the knowledge tests for all the units, the course is considered finished and you will be able to register for the final assessment.	Sobald Sie die Wissenskontrollen für sämtliche Lektionen gemeistert haben, gilt der Kurs als beendet und Sie können sich für die Abschlussprüfung anmelden.	
55 
9e935bab-de1d-4432-8b01-9de84b2f7dc5	Please ensure that you complete the evaluation prior to registering for the assessment.	Bitte füllen Sie unbedingt den Evaluationsfragebogen aus, bevor Sie sich für die Prüfung registrieren.	
56 
90d4a6a4-8658-40fc-8f3b-0c02c5eb6f56	Good luck!	Viel Erfolg!	
57 
703fa08f-bcd4-434c-8fb1-2f78eaf2f849	Suggested Readings	Empfohlene Lektüre	
58 
2e866d50-b7a0-4c47-801b-cb565921a51e	General suggestions	Allgemeine Vorschläge	
59 
26c0898b-cc40-40a2-9ed5-a86e0c73aef5	Bishop, C. M. (2006).	Bishop, C. M. (2006).	
60 
880f0868-3ed5-4291-9f31-ec61716076e3	[1}Pattern recognition and machine learning.{2]	[1}Mustererkennung und maschinelles Lernen.{2]	
61 
ab0dc456-7fab-4f9e-8b09-f82fe15a7b95	Springer.	Springer.	
62 
52d26d77-1654-4ff7-b332-37913eca5626	Grus, J. (2019).	Grus, J. (2019).	
63 
f66dc3df-7adf-4c7e-8616-f13f58cf58c9	[1}Data science from scratch:{2][1} {2]	[1}Datenwissenschaft von Grund auf:{2][1} {2]	
64 
fd8f59d1-20b7-455e-8dc7-1506a86925fd	[1}First principles with Python{2] (2nd ed.).	[1}Erste Grundlagen mit Python{2] (2. Aufl.).	
65 
315775b8-e8b1-4a4d-8a5b-d5a9e02240a7	O’Reilly.	O’Reilly.	
66 
142bb4f8-f771-49ba-88f0-9d9229b288fd	Mitchell, T. M. (1997).	Mitchell, T. M. (1997).	
67 
ef4d8bb6-6b6e-4cf9-80fa-ba95cdf3b0e0	[1}Machine learning{2].	Maschinelles Lernen	
68 
666e99c7-bfa2-4e6c-8a11-ca65b90d7e6f	McGraw-Hill.	McGraw-Hill.	
69 
259dd2aa-42ad-4c4d-91f9-19e38f59a080	Unit 1	Lektion 1	
70 
a1886446-605a-4fd9-bb85-10d02ac225bd	Hingane, M. C., Matkar, S. B., Mane, A. B., & Shirsat, A. M. (2015).	Hingane, M. C., Matkar, S. B., Mane, A. B., & Shirsat, A. M. (2015).	
71 
a6b1b465-114a-43d3-b289-0329f501679d	Classification of MRI brain image using SVM classifier.	Klassifizierung von MRI-Gehirnbildern mittels SVM-Klassifikator.	
72 
155e486a-6ff9-4038-aaa2-c5c9850bc798	[1}International Journal of Science Technology & Engineering{2], [3}1{2](9), 24—28.	[1}International Journal of Science Technology & Engineering{2], [3}1{2](9), 24-28.	
73 
33f81538-f33c-4f22-b578-4f17ad3d03e2	Wirth, R., & Hipp, J. (2000).	Wirth, R., & Hipp, J. (2000).	
74 
8512dddd-0ba1-413b-8b7e-74f0c650a435	CRISP-DM:	CRISP-DM:	
75 
9e72fa4a-9405-4922-89bb-b00cf533f4c6	Towards a standard process model for data mining.	Auf dem Weg zu einem Standardprozessmodell für Data Mining.	
76 
354fe3fd-3025-4d79-a9bf-442e6336d24d	[1}Proceedings of the 4th international conference on the practical applications of knowledge discovery and data mining{2] (pp. 29—39).	[1}Proceedings of the 4th international conference on the practical applications of knowledge discovery and data mining{2] (S. 29-39).	
77 
6ea676a7-bda3-4bdd-8e17-927eb409f2ef	Practical Application Company.	Praktische Anwendung Unternehmen.	
78 
282394af-2f63-44e4-81b5-a91f3f9a2d5b	Unit 2	Lektion 2	
79 
4239f48b-ec8b-4587-b97a-46e2e25728de	Uyanıka, G. K., Güler, N. (2013).	Uyanıka, G. K., Güler, N. (2013).	
80 
b5ff9553-3b8b-45ce-a090-b411dcd00712	A study on multiple linear regression analysis.	Eine Studie zur multiplen linearen Regressionsanalyse.	
81 
9d9ad6b0-4035-4205-9991-f3eceb08ec24	[1}Procedia—Social and Behavioral Sciences, 106{2](2013), 234—240.	[1}Procedia-Social and Behavioral Sciences, 106{2](2013), 234-240.	
82 
5ca861fb-5d67-4d6f-b465-7d73348e5e2d	Unit 3	Lektion 3	
83 
1d47a1de-b536-47aa-a539-e02cd0197fa5	Cunningham, P., & Delany, S. J. (2020).	Cunningham, P., & Delany, S. J. (2020).	
84 
aec999df-1c2e-4e44-b261-35f9896a7af7	[1}K-nearest neighbor classifiers (2nd edition, with Python examples){2] \[Manuscript submitted for publication]. arXiv.	[1}K-nearest neighbor classifiers (2nd edition, with Python examples){2] \[Manuskript zur Veröffentlichung eingereicht]. arXiv.	
85 
7d4f300e-e9c1-4f9c-add2-31e9191424d1	Unit 4	Lektion 4	
86 
71967cb7-b475-4138-a295-b3eba9425207	Gunn, S. (1998).	Gunn, S. (1998).	
87 
f4976f42-8f1d-4be1-987c-ee7304c6f5f1	[1}Support vector machines for classification and regression.{2]	[1}Support-Vektor-Maschinen für Klassifizierung und Regression.{2]	
88 
e3ac4a95-3b1a-4d64-90dd-640c05f350c2	University of Southampton.	Universität von Southampton.	
89 
222cd36c-d442-41d2-b64e-a0d9ddc61fdc	Available online.	Online verfügbar.	
90 
8cf50324-591d-4f8d-a671-4e66b48a7fbb	Unit 5	Lektion 5	
91 
3570851a-cc89-49de-9612-1712602c95a0	Loh, W. (2014).	Loh, W. (2014).	
92 
037e026e-88b4-46da-b603-8e109068f645	Fifty years of classification and regression trees.	Fünfzig Jahre Klassifikations- und Regressionsbäume.	
93 
2aed9e11-19a2-47dd-9520-924bd2c5cfbf	[1}International Statistical Review, 82{2](3), 329—348.	[1}International Statistical Review, 82{2](3), 329-348.	
94 
c72566e5-d73b-41f6-a037-f3939b327de1	Learning Objectives	Übergeordnete Lernziele	
95 
4471759c-c037-41dc-bbe7-0c728683a6ff	The course [1}Machine Learning—Supervised Learning{2] focuses on one of the most popular topics in the world of computer science.	Der Kurs [1}Maschinelles Lernen – Überwachtes Lernen{2] beleuchtet eines der beliebtesten Themen in der Welt der Informatik.	
96 
450b063e-0af2-4245-8dd0-7e960b238baa	In fact, machine learning can be credited with having influenced some of the most impactful technological achievements made in recent years, from recommendation algorithms used across internet platforms to the creation of self-driving vehicles.	Tatsächlich hat das maschinelle Lernen einige der bedeutendsten technologischen Errungenschaften der letzten Jahre beeinflusst, von Empfehlungsalgorithmen für Internetplattformen bis hin zur Entwicklung selbstfahrender Fahrzeuge.	
97 
34915c7e-8b20-4188-8f42-55061110e5a6	Machine learning plays an increasingly important role in our everyday lives.	Nicht zuletzt deshalb spielt das Verfahren eine immer wichtigere Rolle in unserem täglichen Leben.	
98 
1e0540df-0d94-4c23-9a8c-42fe2739944f	One of the most popular ways to teach a machine is to use supervised learning techniques.	Zum Einsatz kommen dabei häufig Techniken des überwachten Lernens.	
99 
16d71281-3aca-48f5-9a95-a6788802f877	Here, a machine is taught using data that include both the inputs and outputs the machine should eventually learn to predict.	Hier basiert der Lernprozess auf einem Datensatz, der neben Eingaben auch die Ausgaben enthält, die das System schließlich vorhersagen können soll.	
100 
2fcabe71-1fcf-46ca-90e7-d61b9cc78c62	In this course, you will discover how machine learning relates to pattern recognition.	Ausgangspunkt dieses Kurses ist die Nutzung des maschinellen Lernens im Bereich Mustererkennung.	
101 
37973c89-5bcf-4330-b673-24b384ab6225	You will then learn about the various design and implementation stages of a machine learning model and how to recognize and avoid any potential pitfalls.	Anschließend lernen Sie die verschiedenen Entwurfs- und Implementierungsphasen eines maschinellen Lernmodells kennen und erfahren, wie Sie mögliche Fallstricke erkennen und vermeiden können.	
102 
c0604960-8250-46d3-8f7d-ba13505e8ec0	The many algorithms used in supervised learning, including support vector machines and decision trees, will be presented to you in an easy, straightforward, and practical way, gradually increasing in complexity to avoid confusion.	Darüber hinaus werden Ihnen Support Vector Machines, Entscheidungsbäume und andere Algorithmen des maschinellen Lernens auf einfache, unkomplizierte und praktische Weise vorgestellt, wobei die Komplexität schrittweise erhöht wird, um Verwirrung zu vermeiden.	
103 
80948e40-f8c1-4527-8129-31a73a7d5c7e	You will be introduced to new concepts, such as regression and classification, and familiarize yourself with their techniques.	Weitere Kursinhalte sind Konzepte wie Regression und Klassifikation sowie die dazugehörigen Lernmethoden.	
104 
0c3e005c-3b5a-486e-8de7-881ce0545773	By the end of the course, you will be able to understand and apply these algorithms and methods on your own.	Am Ende werden Sie nicht nur ein vertieftes Verständnis der hier behandelten Algorithmen und Methoden erlangt haben, sondern diese auch selbstständig anwenden können.	
105 
a2c547a2-d09c-4696-a0ff-6dfa6be9ce8b	Introduction to Machine Learning	Einführung in das maschinelle Lernen	
106 
5cf43e6c-59a2-4e73-a458-856dac39408d	Introduction to Machine Learning	Einführung in das maschinelle Lernen	
107 
bed505d2-53c8-4f91-a559-f8d6bd20b539	Study goals	Lernziele	
108 
7f33fd3b-afc9-4a5a-b61e-dc76fde5820c	On completion of this unit, you will be able to …	Nach Abschluss dieser Lektion werden Sie in der Lage sein, ...	
109 
6b1235e2-e8b6-4538-9d3d-be6208658149	define machine learning and fully understand the concept of supervised learning.	maschinelles Lernen und insbesondere das Konzept des überwachten Lernens zu definieren.	
110 
e91d4eca-73d5-4cd7-8b91-db140a36d32e	utilize the machine learning design cycle as an iterative process model for building machine learning systems.	den Entwurfszyklus des maschinellen Lernens als iteratives Prozessmodell für die Erstellung maschineller Lernsysteme zu nutzen.	
111 
82775e60-f2df-4de5-a064-68b024fb3b37	understand the technical notions of learning and adaption and how they relate to one other.	Bedeutung und Zusammenhang der technischen Begriffe "Lernen" und "Anpassung" zu erläutern.	
112 
98223bd0-aabd-4a97-a455-54fe8980f824	detect and avoid problems of over- and underfitting.	Probleme der Über- und Unteranpassung zu erkennen und zu vermeiden.	
113 
883f1668-79bf-4bb7-9606-b6cadd6d00b9	Introduction	Einleitung	
114 
b1145467-fff9-409d-b812-0d8905ba6f73	With data being recorded in so many aspects of our lives, the amount collected in recent years has grown considerably.	Da viele Bereiche unseres Lebens maschinell erfasst werden, ist die Menge der gesammelten Daten in den letzten Jahren erheblich gestiegen.	
115 
2998e83e-1300-437c-834b-604649ea602b	There is a wealth of valuable information hidden within this ever-increasing flood of data—data that come in many different formats, including numerical, textual, and even audiovisual.	In dieser ständig wachsenden Datenflut steckt eine Fülle wertvoller Informationen – in numerischen, textbasierten, audiovisuellen und diversen anderen Formaten.	
116 
c1aeb019-3d7d-4caa-8f1b-b38ee1de7965	The complexity of these data, as well as the sheer amount amassed, makes identifying and understanding insightful patterns and relationships hidden therein a laborious task.	Allerdings ist es angesichts der Vielfalt, Komplexität und schieren Menge der verfügbaren Daten überaus mühsam, die darin verborgenen aufschlussreichen Muster und Zusammenhänge manuell zu identifizieren und zu erklären.	
117 
c8230fb1-c170-44b2-9cee-1c05379ad054	We need algorithms that allow us to analyze these huge amounts of data, observe patterns, and propose rules so that hypotheses can be formulated and tested.	Daher benötigen wir Algorithmen, die uns in die Lage versetzen, extrem umfangreiche Datenvolumen zu analysieren, Muster zu erkennen und Hypothesen zu formulieren und zu testen.	
118 
ac467237-60cf-4964-958c-4232f84bdf26	In this unit, we will find answers to the following questions:	In dieser Lektion eignen wir uns die Grundlagen dafür an, indem wir die folgenden Fragen beantworten:	
119 
ce33f850-e023-4e5d-9c20-cfef5bd2086f	What is machine learning?	Was ist maschinelles Lernen?	
120 
b85da30c-7a54-45a0-a393-38cd3b2506d9	How is pattern recognition related to machine learning?	Wie hängen Mustererkennung und maschinelles Lernen zusammen?	
121 
390ff1a8-3379-49aa-acb8-40631af2d06d	How can we design and implement a machine learning model?	Wie können wir ein maschinelles Lernmodell entwerfen und implementieren?	
122 
eda044c2-f6d3-4c11-9912-89a0f81b0bff	What should we be aware of during the machine learning process?	Worauf sollten wir während des maschinellen Lernprozesses achten?	
123 
e2f2afad-9621-42ad-a25e-56dbdc9e42c2	Pattern Recognition Systems	Mustererkennungssysteme	
124 
a8aecb90-abed-4e5e-b0ae-d90a398f89e8	Pattern Recognition Systems	Mustererkennungssysteme	
125 
5909335f-dbfb-4dba-b539-5210d3878792	Pattern recognition and machine learning are two concepts that are very closely linked with each other.	Mustererkennung und maschinelles Lernen sind zwei eng miteinander verbundene Ansätze, die sich primär hinsichtlich ihrer Entstehungsgeschichte unterscheiden.	
126 
79435f56-00ee-4c07-8169-76fe40730433	Bishop (2006) explains that pattern recognition has its roots in engineering and that machine learning has evolved from the field of computer science.	Wie Bishop (2006) erläutert, liegen die Wurzeln der Mustererkennung im Ingenieurwesen, während sich das maschinelle Lernen in der Informatik entwickelt hat. Außerdem liegt der Schwerpunkt beim maschinellen Lernen auf rechenintensiveren Methoden.	
127 
3d34bf88-0d25-48a8-83b3-47d4360e4360	Nevertheless, both of these activities can be viewed as facets of the same field.	Trotzdem können beide Verfahren demselben Forschungsfeld zugeordnet werden.	
128 
b74047e4-5063-4e65-99a5-da2f865e0fa3	Although the focus in machine learning is on more computationally intensive methods, there is still a strong overlap between the two activities: both pattern recognition and machine learning aim to detect patterns hidden in data (Webb, 2002).	Denn Mustererkennung und maschinelles Lernen zielen gleichermaßen darauf ab, in Daten verborgene Muster zu erkennen (Webb, 2002).	
129 
9e428476-b3ae-4a6e-ae7e-a4d111411566	In this course, we understand pattern recognition as a process in which machine learning techniques are used to detect patterns hidden in data.	In diesem Kurs verstehen wir Mustererkennung als einen Prozess, bei dem maschinelle Lernmethoden eingesetzt werden, um in Daten verborgene Muster zu identifizieren.	
130 
4ff3f48a-74fc-4741-a63d-fcb732aeab52	More formally, pattern recognition is the process of using machine learning techniques to assign a	Formal gesehen geht es dabei um die Zuordnung eines	
131 
ce1b14e1-53e7-43c7-acd2-fd0e3432cc7c	label	Labels	
132 
b95b0fc7-cb3c-4ba5-9bc4-20a2dc54f9da	Label	Label	
133 
4b802b01-606a-4f71-9356-f58359367cf0	A label is the attribute that we want to predict.	Ein Label ist das Attribut, dessen Ausprägung wir vorhersagen wollen.	
134 
3a7ac01c-559f-4494-9a78-dcdf4f6be102	to a given	zu einer gegebenen	
135 
36ccfcf5-b1df-490b-b27b-06bbd02d28d7	observation	Beobachtung	
136 
57a3abed-e149-48e1-9d9c-91e4843865d3	Observation	Beobachtung	
137 
b9a8ddca-285f-4f6c-aa55-00d9735a1a6a	A single record in the data is called an observation.	Ein einzelner Datenpunkt im Datensatz wird als Beobachtung bezeichnet.	
138 
520eaacb-1b4e-4f1a-9f6b-6da69073c174	based on its features (i.e., the observation’s attributes).	anhand bestimmter Merkmale (d. h. der Attribute der Beobachtung).	
139 
1aab3581-8792-42fd-b619-d5110f4aef19	In this context, “to learn” is to capture the dependency structures between features and labels in order to generalize them and thereby predict labels for new, unseen observations.	Dabei bedeutet "lernen", dass das System die Abhängigkeitsstrukturen zwischen Merkmalen und Labels erfasst, damit sie verallgemeinert und zur Vorhersage der Labels für neue (d. h. dem System bisher unbekannte) Beobachtungen genutzt werden können.	
140 
f6f697de-a7a7-48f9-97cd-c475d4b59e87	The following are two forms of pattern recognition that can be distinguished based on the type of machine learning used:	Im Folgenden werden zwei Formen der Mustererkennung vorgestellt, die sich im Hinblick auf die jeweils verwendete maschinelle Lernmethode unterscheiden:	
141 
aa63ae95-c2c5-40ca-97f8-10cc9845286b	With supervised learning, we provide both the features and the labels that we want to predict during the learning phase.	Beim überwachten Lernen stellen wir für die Lernphase einen Datensatz bereit, der sowohl die Beobachtungsmerkmale als auch die Labels der einzelnen Datenpunkte enthält.	
142 
8e31a18c-3ead-4a6f-83e7-6abab5d56a41	The model therefore learns to assign labels based on provided data containing both of these elements.	Auf dieser Grundlage erlernt das Modell die Zuweisung von Labels.	
143 
2b881423-1858-4bf8-a648-30364e301ef0	With unsupervised learning, the training dataset contains only the features (and not the labels to be predicted).	Beim unüberwachten Lernen enthält der Trainingsdatensatz nur die Merkmale (jedoch keine Labels).	
144 
fce4f9de-e06f-44da-abc5-6fc0675be4b7	The goal here is to detect patterns and similarities in the data in order to assign the same label to similar observations.	Ziel ist es hier, Muster und Ähnlichkeiten in den Daten zu erkennen, um ähnliche Beobachtungen in derselben Kategorie bzw. unter demselben Label zusammenzufassen.	
145 
5f0ae4cd-621d-45e7-be6d-d3ee3632400e	﻿In this course, we will focus on supervised machine learning, i.e., we will work with training data containing both features and labels.	In diesem Kurs konzentrieren wir uns auf überwachtes maschinelles Lernen, d. h. wir arbeiten mit Trainingsdaten, die sowohl Merkmale als auch Bezeichnungen enthalten.	
146 
5c4ea91f-5444-49c6-af7b-55e98ee6b355	Supervised learning models can be further grouped into classification and regression models: classification models predict class membership (e.g., whether a client is a churner or a non-churner); regression models predict continuous numeric values (e.g., sales figures).	Einschlägige Modelle lassen sich in Klassifizierungs- und Regressionsmodelle unterteilen. Von diesen schätzen die Ersteren die Zugehörigkeit zu vorgegebenen Klassen (z. B. ob ein Kunde einem Unternehmen treu bleibt oder zur Konkurrenz abgewandert ist), während Regressionsmodelle kontinuierliche numerische Werte voraussagen (z. B. Umsatzzahlen).	
147 
957b8567-8fec-4b5f-abfd-1f37b1b7f022	Pattern Recognition in the Real World	Mustererkennung in der realen Welt	
148 
6f3141a2-3a54-41f2-ad5c-0991230cf03d	﻿Let us now look at a real-world example of a pattern recognition system—more precisely, a classification model based on the work of Singh and Kaur (2012), Funmilola et al.	Betrachten wir nun ein praktisches Beispiel für den Einsatz eines Mustererkennungssystems. Als Grundlage dient uns dabei ein Klassifizierungsmodell, das auf den Arbeiten von Singh und Kaur (2012), Funmilola et al.	
149 
605f825e-ee27-4438-a049-443d6b195761	(2015), and Hingane et al.	(2015), und Hingane et al.	
150 
54d0b255-ad93-4d8f-a71d-3c87a8f55ed0	(2015).	(2015) basiert und	
151 
cdada6b1-e5e5-4ab4-b2ae-5d4ba757f4df	The processing of image data plays a pivotal role in the medical field.	die Verarbeitung medizinischer Bilddaten aus	
152 
1793982e-7987-421b-9702-399fe3a53ec5	Through the use of x-ray machines, magnetic resonance imaging (MRI), and ultrasound machines, a large number of invaluable images and data can be generated to aid in the diagnosis of inconspicuous diseases.	Röntgengeräten, Magnetresonanztomographen (MRT) und Ultraschallgeräten übernimmt. Damit erfüllt es eine äußerst wichtige Aufgabe bei der Diagnose unauffälliger Krankheiten.	
153 
a6e4dc81-ae0c-48da-a3e2-03a079e07ad6	Suppose that a doctor is trying to detect abnormalities (including evidence of disease) present in an MRI scan of a patient’s brain.	Dies zeigt sich, sobald wir uns in die Rolle eines Arztes versetzen, der im MRT-Gehirnscan eines Patienten Anomalien ausfindig machen möchte.	
154 
f02b4143-ad12-43a1-9172-f7f172850cb0	Given the gravity of the decision this doctor needs to make, they may opt to consult an automated system to help identify and/or confirm the diagnosis.	Um eventuelle Krankheiten korrekt zu erkennen (und folgenschwere Fehlentscheidungen zu vermeiden), kann dieser Arzt ein automatisiertes System zu Rate ziehen, das ihn bei der Diagnose unterstützt und/oder seine Diagnose bestätigt.	
155 
f2941200-071a-4d58-8780-1410b8fa8600	Therefore, in this example, we would like to automate the brain diagnosis process and simplify the associated task of determining the brain’s current state of health (e.g., by using MRI images to detect any potential tumors).	Somit geht es in unserem Beispiel darum, den Diagnoseprozess zu vereinfachen, indem wir den Gesundheitszustand des Gehirns automatisch anhand von MRT-Aufnahmen ermitteln (und dabei etwa mögliche Tumore identifizieren).	
156 
3ad0c044-17f9-42f4-bcee-305055e22a0e	For this process, we will need two sets of images, which will act as the input for the learning process of the pattern classification system.	Hierfür benötigen wir zwei Bilddatensätze, die als Input für den Lernprozess des Musterklassifikationssystems dienen.	
157 
1c7658a0-b573-412f-99fa-2f19ccddfb7f	The first set contains images of healthy brains, and the second set contains images of brains with abnormalities.	Der erste Satz enthält Bilder gesunder Gehirne, der zweite Satz umfasst Bilder von Gehirnen mit Anomalien.	
158 
232387e8-8c16-4dfc-a30e-ad95c2126b9f	The following figure shows two example images: on the left, we see a healthy brain; on the right, we see that the MRI has revealed an abnormality.	Die folgende Abbildung zeigt zwei Beispielaufnahmen: links ein gesundes Gehirn, rechts eine MRT-Aufnahme mit einer Anomalie.	
159 
4ca4c0c9-85d3-4b0f-97c4-21d3ff03217d	Sample of Normal and Abnormal Brain Images	Beispielaufnahmen eines normalen und eines abnormen Gehirns	
160 
8e29e5fb-e01f-4d16-b965-120271d84bd2	Hashan (2021a; 2021b), CC BY-NC-SA 4.0.	Hashan (2021a; 2021b), CC BY-NC-SA 4.0.	
161 
e2745940-6e34-4b13-b270-7e3c9797afce	[1]	[1]	
162 
370048dd-3833-4833-88cc-9c251c3f68d2	Based on the training images, the system must learn to fully comprehend how the human brain is structured and what the differences between healthy brains and brains with abnormalities look like.	Anhand solcher Trainingsbilder soll das System lernen, wie das menschliche Gehirn strukturiert ist und worin sich Gehirne mit Anomalien von gesunden Gehirnen unterscheiden.	
163 
6efeddbc-87de-4c1e-823e-632d4499f0e6	We can then successfully make an automated diagnosis.	Auf diese Weise schaffen wir die Grundlage für erfolgreiche automatische Diagnosen.	
164 
a2f626a2-2e37-4808-bdf8-652c47d63073	Because every human brain is unique (and therefore no two images will be perfectly alike), this is a very challenging task.	Allerdings handelt es sich hier um eine sehr anspruchsvolle Aufgabe, da jedes menschliche Gehirn einzigartig ist (und folglich keine zwei Bilder perfekt gleich sind) .	
165 
65ea3622-6120-4eec-861d-5ef3e0bfe48a	The complex composition of the brain, which is divided into white matter, gray matter, and cerebrospinal fluid, is another obstacle that must be overcome.	Erschwerend kommt hinzu, dass das Gehirn aus weißer und grauer Substanz sowie aus Liquor besteht und somit eine komplexe Zusammensetzung aufweist.	
166 
464bf945-6106-4617-b0e8-c894acdf6b82	Furthermore, the images are often affected by various confounding factors relating to the scanning process itself (e.g., the patient accidentally moving during capture).	Außerdem werden die Bilder häufig durch verschiedene Störfaktoren beeinflusst, die mit dem Scanvorgang selbst zusammenhängen (z. B. wenn sich der Patient während der Aufnahme versehentlich bewegt).	
167 
002bfb6d-e82d-483a-950f-57e8e45bd24c	The pattern classification system must manage this complexity by using the information that can be taken from the image (e.g., image density, shape structure, and color differences).	Um dieses Maß an Komplexität bewältigen zu können, muss unser Musterklassifizierungssystem Informationen nutzen, die sich den Bilddaten entnehmen lassen (z. B. Bilddichte, Formstruktur und Farbunterschiede).	
168 
a69fc34f-e376-489b-ba6e-4deb37b50f06	These properties help to generate features used by the classifier, whose goal is to label the image (i.e., classify it) as “normal” or “abnormal.”	Diese Eigenschaften ermöglichen die Erstellung von Merkmalen, die dann vom Klassifikator verwendet werden, um ein Bild als "normal" oder "abnormal" zu klassifizieren.	
169 
e7cec7f1-2268-4fc5-a4d4-cbef69f916cf	It does this by predicting the probabilities of class membership for these two classes and then assigning the appropriate class label (i.e., the one with the highest rate of probability predicted) to the image.	Dazu werden zunächst die Wahrscheinlichkeiten der Zugehörigkeit zu diesen beiden Klassen geschätzt; danach wird dem Bild die entsprechende Klassenbezeichnung (d. h. die mit der höchsten geschätzten Wahrscheinlichkeit) zugewiesen.	
170 
ef34a7a6-9d93-46e8-a8f8-8bf2a1b5665a	The pattern classification system is a process designed to break down the complexity of the data provided.	Musterklassifizierung ist demnach ein Verfahren, das auf der Aufschlüsselung der Komplexität der bereitgestellten Daten basiert.	
171 
a4134f0d-055d-4168-9b60-ff04ddd8c591	It comprises a set of successive steps used for each image.	Es besteht aus einer Reihe aufeinanderfolgender Schritte, die auf jedes Bild angewendet werden	
172 
d0c6dd6e-97fb-4cbf-8078-f198c4f62f3e	These individual steps are shown in the following figure.	und in der folgenden Abbildung dargestellt sind.	
173 
3de22ee8-58ee-4c5b-9867-f16f8af8db7d	Brain MRI Image Classification	Klassifizierung von MRT-Bildern des Gehirns	
174 
e15c40f7-0fec-48ce-9c2f-94bc83c54ffe	Hofer (2021).	Hofer (2021).	
175 
ca4e1d48-58f1-4ead-9e24-080adcfceb15	[1]	[1]	
176 
c38a6933-e98a-4388-b0d5-5e58fcd34d72	Before any legitimate analysis and classification of these images can take place, we must first go through the	Vor der eigentlichen Analyse und Klassifizierung der Bilder, muss zunächst eine	
177 
6f9bcb95-a7ea-493f-84f2-1d29f9a75b47	preprocessing	Vorverarbeitung	
178 
a270cda0-2c0b-449c-9c5d-bb7b33b146a6	Preprocessing	Vorverarbeitung	
179 
f8ba1667-6af8-4f67-85ca-7174b11e3c98	Preparing data to make them usable for machine learning is called preprocessing.	Dieser Begriff bezeichnet die Aufbereitung von Daten für das maschinelle Lernen.	
180 
2187b4bb-0b22-4d42-b1cc-4b402dffa851	stage, i.e., the images must be prepared for machine learning.	erfolgen, d. h. die Bilder müssen für das maschinelle Lernen vorbereitet werden.	
181 
56aa6b6e-a471-4566-91b1-39990ce0ef76	In this first step, each MRI brain scan is converted into an array of pixels and then sent through a sequence of simple transformation steps.	In diesem ersten Schritt wird jeder MRT-Gehirnscan in eine Pixelmatrix umgewandelt und durchläuft dann eine Reihe einfacher Transformationsschritte.	
182 
ee7c7d80-62e5-4ec1-ae5c-80c10c44171f	This may include, in this scenario, resizing each image so they have the same dimensions, filtering them to remove noise, using a thresholding algorithm to identify and highlight any areas of interest, and/or converting them to grayscale to reduce both complexity and the model’s eventual computational costs.	Das kann in unserem Beispielszenario bedeuten, dass die Größe und Maße der einzelnen Bilder angepasst und vereinheitlicht werden, dass ein Filter das Bildrauschen entfernt, dass ein Schwellenwertalgorithmus interessante Bereiche identifiziert und hervorhebt und/oder dass die Bilder in Graustufen umgewandelt werden, was sowohl die Komplexität als auch den späteren Rechenaufwand des Modells reduziert.	
183 
cdacb43e-994a-41ba-883f-4d8b45819e58	In some cases, it is also advisable to use augmentation techniques to artificially expand the training dataset, e.g., by intentionally skewing the image, shifting it, or adding extra noise.	Darüber hinaus ist es in manchen Fällen ratsam, den Trainingsdatensatz künstlich zu erweitern, z. B. durch absichtliches Verzerren oder Verschieben des Bildes sowie durch die Hinzufügung von zusätzlichem Rauschen.	
184 
2e92b371-738b-4f4e-af51-a2a73a7199c6	As a final preprocessing step,	Die Vorverarbeitung endet mit der	
185 
f4dc2baf-2821-4854-b48a-4b2fec89d3a6	image segmentation	Bildsegmentierung	
186 
a0d28270-c9e9-45a6-8f49-5d11f394d797	Image segmentation	Bildsegmentierung	
187 
f2ac78da-c572-4aa8-931c-9a71a8567367	Grouping similar pixels to identify objects in an image is called image segmentation.	Die Gruppierung ähnlicher Pixel zur Identifizierung von Objekten in einem Bild wird als Bildsegmentierung bezeichnet.	
188 
3cf0a95c-ccb6-4559-9347-ff4152c3eeaa	is performed to separate the different parts of the brain.	, was hier bedeutet, dass die verschiedenen Teile des Gehirns voneinander getrennt werden.	
189 
8db6482a-bf5c-4b12-a177-350505edf11b	Feature extraction comes next in the overall process, where the preprocessed image is reduced to certain essential properties.	Der darauf folgende Schritt im Gesamtprozess ist die Merkmalsextraktion, bei der das vorverarbeitete Bild auf bestimmte wesentliche Eigenschaften reduziert wird.	
190 
cc684d83-434c-4409-94df-a41b05ff7160	By selecting and combining these properties, features can be derived that are suitable for distinguishing the classes from each other.	Durch Auswahl und Kombination dieser Eigenschaften lassen sich Merkmale gewinnen, die zur trennscharfen Unterscheidung der verschiedenen Klassen geeignet sind.	
191 
681bfabf-0b2b-4507-baa2-1008ce82d64d	For feature extraction, the next stage, the models designed by Singh and Kaur (2012) and Hingane et al.	Die von Singh und Kaur (2012) und Hingane et al.	
192 
dbf544b3-d497-4614-9d09-62a70ee6f424	(2015) use a statistical method that characterizes an image based on the position of pixels with similar gray values.	(2015) entwickelten Modelle basieren auf einer statistischen Methode, die ein Bild anhand der Position von Pixeln mit ähnlichen Grauwerten charakterisiert.	
193 
5df445c6-a811-4ef0-830e-652359518ca0	It uses this information to transform the image into a set of features (e.g., texture or shape).	Sie nutzen diese Informationen, um das Bild in verschiedene Elemente (z. B. Texturen oder Formen) zu zerlegen.	
194 
f52c9700-2cc2-4c3c-8fa3-3dfbabfc0f1f	After completing this step, each image is now reduced to a feature vector [1}x{2] in an [3}n{2]-dimensional feature space, where [5}n{2] is the number of features.	Nach Abschluss dieses Schritts wird jedes Bild auf einen Merkmalsvektor [1}x{2] in einem [3}n{2]-dimensionalen Merkmalsraum reduziert, wobei [5}n{2] die Anzahl der Merkmale ist.	
195 
252efaef-efb4-4c0c-ba6d-05315165479b	x	x	
196 
0df66d03-5300-47ab-9f7c-e5f70312f766	=	=	
197 
6c571087-93c5-4921-abbd-ee9a0e09f6ef	\[	\[	
198 
57c65bd3-6c7f-4689-a755-cbd8968e47f8	x	x	
199 
994aeea0-be2f-493a-b0c1-465c6286ab43	1	1	
200 
551eed2d-d4e2-4e31-81f3-9c3937e7ef97	x	x	
201 
149d411b-2dff-4e7d-adbe-a27ca6d3ed8d	2	2	
202 
4b323538-971c-4796-8c37-614d78a562bd	⋮	⋮	
203 
ad2b0196-186a-404e-930c-8892c39b4ba6	x	x	
204 
227aac61-df71-4347-a951-9119b7c090a5	n	n	
205 
0c34b144-a1d5-434c-b8ea-ef95f9d8d26d	]	]	
206 
ef3546d5-8087-4b96-8515-ef4b4c39f611	The last step in this process concerns the actual classification.	Der letzte Schritt in diesem Prozess betrifft die eigentliche Klassifizierung	
207 
49c40e57-4278-46e8-aa37-8e503e569f93	This step is divided into two phases: the training phase and the testing phase.	und ist in zwei Phasen unterteilt: die Trainingsphase und die Testphase.	
208 
de8336f4-ad74-4603-a9b6-1e3c4b325864	In the training phase, a large portion of the images are used to learn the decision boundary, which separates and isolates the two classes in the feature space.	In der Trainingsphase nutzt unser System das Gros der verfügbaren Bilder, um eine Entscheidungsgrenze zur Trennung und Unterscheidung der beiden Klassen im Merkmalsraum zu ermitteln.	
209 
a3859dda-753d-4e66-bb5a-e207ec490ed5	The decision boundary is then tested using the remaining images that were left unused during the training phase.	Diese Entscheidungsgrenze wird dann mithilfe der verbleibenden Bilder getestet, d. h. anhand jenes Teils unseres Bilddatensatzes, der in der Trainingsphase nicht verwendet wurde.	
210 
c0637752-dca7-4727-b97b-d590e94f7e8e	This testing phase reveals the suitability of the decision boundary.	Dabei zeigt sich die allgemeine Eignung bzw. die Generalisierbarkeit der erlernten Entscheidungsgrenze.	
211 
98677d0a-8e55-40d7-bf63-82ef30ad6917	In order for the classifier to perform effectively, the selection of features representing the image must be taken into consideration.	Damit der darauf basierende Klassifikator später effektiv eingesetzt werden kann, muss die Auswahl der repräsentativen Bildmerkmale mit großer Sorgfalt erfolgen.	
212 
e3fd6f4c-1097-4266-811a-f079dacbc8fb	It is important to choose features that provide the optimal decision boundary.	Grundsätzlich sollten nur jene Merkmale Berücksichtigung finden, die eine optimale Trennschärfe aufweisen.	
213 
22652894-036c-4aef-9c95-a69326331bc2	The more features taken into account, the more complex the classification model will be, which may not necessarily be beneficial to us.	Denn je mehr Merkmale einbezogen werden, desto komplexer wird das Klassifizierungsmodell, was für uns nicht unbedingt von Vorteil sein muss.	
214 
ced9de5d-4ef8-4291-978b-df2101f9eac4	Some features could be redundant or entirely useless, others may be expensive to measure or extract, and some may result in less accurate classifications.	Einige Merkmale könnten redundant oder völlig nutzlos sein, andere könnten sich nur mit großem Aufwand messen oder extrahieren lassen und wieder andere könnten zu einer geringeren Klassifizierungsgenauigkeit führen.	
215 
97d74eb4-a56c-4db1-9283-4df3d95bd283	But how do we know which features to choose?	Doch wie können wir wissen, welche Merkmale für unsere Zwecke geeignet sind?	
216 
ebf5cc8c-7366-499d-b453-1a889afab874	One possible approach is to obtain and utilize more comprehensive and diverse training data.	Ein möglicher Ansatz besteht darin, umfangreichere und vielfältigere Trainingsdaten zu beschaffen und zu nutzen.	
217 
e408178f-b563-404a-abe4-d242cb0626ba	Conversely, one could simplify the model and generalize its parameters while keeping the overall	Alternativ können wir das Modell vereinfachen und seine Parameter verallgemeinern, solange dies keine relevanten negativen Auswirkungen auf den	
218 
ead2a8ad-2fcb-47a9-b0a8-cdc31f1202b2	model loss	Gesamtverlust	
219 
19b10881-6e6d-4ea5-abd9-fc2c0fbd2a22	Model loss	Gesamtverlust	
220 
c02bbe1c-fa88-456b-97c1-e8e5c6af500e	This term refers to the calculation of the probability of misclassification.	Dieser Begriff bezieht sich auf die berechnete Wahrscheinlichkeit einer Fehlklassifizierung.	
221 
5bbcccb1-2dd3-46bb-b7ce-e884d53cd0a2	in mind.	hat.	
222 
60a20d9e-136a-4988-9849-c2c5570eb2a0	As a rule, we want to keep our models as simple as possible.	Generell gilt hier: Je einfacher das Modell, desto besser.	
223 
0bf9ba3b-9c76-4b81-bcc7-3cc758cfe04d	Self-Check Questions	Fragen zur Selbstkontrolle	
224 
5b5fd139-c866-4472-b9c6-56c5b7b177c1	What are the two types of machine learning introduced in this section that can be used for pattern recognition?	Welche beiden Arten des maschinellen Lernens wurden in diesem Abschnitt als mögliche Ansätze für die Mustererkennung vorgestellt?	
225 
0a592d2f-2a09-4376-b33d-cca7d1f6b47a	supervised learning and unsupervised learning	Überwachtes Lernen und unüberwachtes Lernen	
226 
5665a230-65d3-4150-b5c3-701a628cc14a	The Machine Learning Design Cycle	Der Entwicklungszyklus für maschinelles Lernen	
227 
8e652cf3-7984-4a49-a7a8-58d96a86235d	The Machine Learning Design Cycle	Der Entwicklungszyklus für maschinelles Lernen	
228 
6171b4d0-c3b2-486d-b016-d6800a7668af	Although the development of a machine learning system can be structurally divided into specific, successive phases, the very nature of machine learning is typically characterized by iterative, recurrent phases.	Die Entwicklung eines maschinellen Lernsystems gliedert sich in aufeinanderfolgende Phasen, die wiederholt durchlaufen werden und somit einen iterativen Gesamtprozess formen.	
229 
bda2380f-1112-452b-a8ba-b8d20e9b22c3	By going through these phases, the model can continuously improve.	Diese Vorgehensweise ermöglicht die kontinuierliche Verbesserung des Modells und	
230 
2726ba49-78a7-4d14-9385-8a1b7b28e8fb	This is also referred to as the machine learning design cycle.	wird auch als Design- oder Entwicklungszyklus für maschinelles Lernen bezeichnet.	
231 
1f08b40d-27e4-40c6-8f4f-976bcdca4cd1	The Cross-Industry Standard Process for Data Mining (CRISP-DM) is regarded as the blueprint for the development of machine learning models.	Ein einschlägiges Framework ist der Cross-Industry Standard Process for Data Mining (CRISP-DM), der als Blaupause für die Entwicklung von Modellen für das maschinelle Lernen gilt	
232 
eca13d8c-68fc-4757-9ba8-000963697694	The CRISP-DM cycle consists of six phases: business understanding, data understanding, data preparation, modeling, evaluation, and deployment.	und insgesamt sechs Phasen umfasst: Business Understanding, Data Understanding, Data Preparation, Modeling, Evaluation und Deployment.	
233 
2e33c133-f3dd-4b29-9010-22308fd06359	The individual phases of the CRISP-DM cycle and their iterative nature are illustrated in the following figure based on Wirth and Hipp (2000).	Die einzelnen Phasen des CRISP-DM-Zyklus und ihr iterativer Charakter werden in der folgenden Abbildung in Anlehnung an Wirth und Hipp (2000) dargestellt.	
234 
b6e63bfc-b565-41d1-baa1-8a0bad89233b	The Six Phases of the CRISP-DM Process Model	Die sechs Phasen des CRISP-DM-Prozessmodells	
235 
4165e790-a293-4a59-b005-eb4954a9f64b	Jensen (2012), CC BY-SA 3.0.	Jensen (2012), CC BY-SA 3.0.	
236 
46e6fb5a-0e84-4d0c-bf8e-5fd3a23f2b08	[1]	[1]	
237 
e242e0c2-a6d0-4a81-aad7-3bc0319d6219	The Six Phases of the CRISP-DM Process Cycle	Die sechs Phasen des CRISP-DM-Zyklus	
238 
ca4cdebf-4215-4867-a4d8-466f14a3e374	﻿We will now take a closer look at each stage in this cycle to better understand the roles that they play in model construction.	Wir werden nun die einzelnen Phasen dieses Zyklus genauer betrachten, um ein besseres Verständnis von ihrer jeweiligen Rolle im Prozess der Modellentwicklung zu gewinnen.	
239 
a171e5d5-0797-406f-ad76-39794b7ef228	Business understanding	Business Understanding	
240 
e014403b-493b-4f0c-8f51-d33ebd7aa3cd	﻿This initial phase concerns the understanding of project objectives and requirements from a business perspective and their translation into a machine learning problem.	In dieser ersten Phase geht es darum, die Projektziele und -anforderungen aus der Unternehmensperspektive zu betrachten und sie in ein maschinelles Lernproblem zu übersetzen.	
241 
591d61db-2cb3-4dba-92f0-5ffdd93633b0	A project plan is also designed at this stage in the process.	Außerdem wird in dieser Phase ein Projektplan erstellt.	
242 
87555dd6-eaec-409a-b737-9dd3db10e3db	The term “business” here should be understood as a broad concept, referring to organizations in a more general manner.	Dabei ist der Begriff "Unternehmen" im weitesten Sinne zu verstehen und bezieht sich auf Organisationen im Allgemeinen.	
243 
e3587b31-3f2c-483f-b154-21b31eff5347	Data understanding	Data Understanding	
244 
2e6c3664-e274-4795-801f-7d5a4bfa50e6	﻿This phase begins with an initial collection of data and the appropriate actions taken to understand them.	Die zweite Phase beginnt mit einer ersten Sammlung von Daten und explorativen Analysen.	
245 
f56ff90f-6c77-4f6d-8c08-feda47256cc3	The goal is to examine the data quality, detect any possible errors and inconsistencies, identify interesting subsets, and form early insights.	Ziel ist es hier, die Datenqualität zu prüfen, mögliche Fehler und Inkonsistenzen zu erkennen, interessante Teildatensätze zu identifizieren und erste Erkenntnisse zu gewinnen.	
246 
05fd7815-84b0-424d-bab0-e3091b9897a6	Because it is necessary to understand the data on, at least, a basic level when project planning, it is not uncommon for iterations between these first two phrases to occur.	In vielen Fällen erfolgt dies in wiederholtem Wechsel mit der ersten CRISP-DM-Phase, da für die Projektplanung wenigstens ein grundlegendes Verständnis der Daten erforderlich ist.	
247 
99c159ac-b12e-48ab-8e9e-3f507245bcb0	Data preparation	Data Preparation	
248 
d52aa15f-1065-4a0d-b612-08afa71f3652	﻿After forming an initial picture of the existing data and their quality, the data are prepared for machine learning.	Nach dem ersten prüfenden Blick auf die vorhandenen Daten und ihre Qualität werden Datensätze für das maschinelle Lernen vorbereitet.	
249 
51a6e86d-bb66-40d8-9823-bfb5402f9fc0	This includes the selection and integration of the data chosen as machine learning input, feature extraction, data cleaning, and the transformation of the data into a suitable format.	Dazu gehören zunächst die Auswahl und Zusammenführung der Daten, die als Input für das maschinelle Lernen vorgesehen sind, sowie des Weiteren die Extraktion von Merkmalen, die Datenbereinigung und die Umwandlung der Daten in ein geeignetes Format.	
250 
cdea45b2-9b25-4f46-bfc3-0567d2e56077	Modeling	Modeling	
251 
9d0b1772-782c-4c8b-a3e4-14a0d8a3d752	﻿The actual machine learning begins during this phase.	In der vierten Phase beginnt das eigentliche maschinelle Lernen.	
252 
301d6506-9a57-412d-a81e-2b9ff6f36bec	This phase can be quite enlightening, as it commonly reveals problems in the data.	Dieser Schritt kann sehr aufschlussreich sein, da er in der Regel Probleme in den Daten aufdeckt.	
253 
484b0ed4-b10f-4977-a870-0f2f6b7f475c	Here, we start constructing and training a wide variety of models based on data using a set of parameter constellations.	Er umfasst im Wesentlichen die Erstellung vielfältiger Modelle sowie ihr datenbasiertes Training unter Verwendung verschiedener Parameterkonstellationen,	
254 
9cc25108-6d49-4b5f-83c8-62e6ed2bd322	These parameters, naturally, vary from model to model.	die von Modell zu Modell variieren.	
255 
c0cd2bef-15e0-41cb-bd6b-bf3d5f715d3c	It is also during the construction of the model that new features or ways of incorporating new data emerge.	Dabei kann der Prozess der Modellerstellung neue Merkmale in den Fokus rücken oder zusätzliche Möglichkeiten zur Einbeziehung neuer Daten aufzeigen.	
256 
63e8b42c-3d7d-4550-992a-f28b493f1f18	Modeling and data preparation are closely related, as the preparation steps needed for one model may not be suitable to another.	Aus diesem Grund sowie aufgrund der Tatsache, dass sich die Datenaufbereitungsschritte für ein Modell nicht unbedingt auf ein anderes Modell übertragen lassen, besteht ein enger Zusammenhang zwischen Modeling und Data Preparation. 	
257 
6e7b9b8f-1039-4deb-8dd5-6e93b04120d0	Evaluation	Evaluation	
258 
07de46ac-f034-4771-ae82-af388f94f880	﻿In the evaluation phase, the goal is to identify which model performs the best.	In der Evaluationsphase geht es darum, unter den verschiedenen Kandidaten das Modell mit der höchsten Effektivität und/oder Effizienz zu ermitteln.	
259 
8571ef1e-4571-4107-a82b-2db8561230c4	To solve this, the different models and their various parameters are compared to each other.	Zu diesem Zweck werden die verschiedenen Modelle und ihre unterschiedlichen Parameter miteinander verglichen.	
260 
c39cce99-bc29-4c44-8bcf-df1ad1c0a2a2	Deployment	Deployment	
261 
87ee584c-e5e7-4baf-a0dc-0400dcf21141	﻿In this final phase, the model that has performed the best during trials is integrated into a business or organization, where it should achieve the desired effect.	In der letzten Phase wird das Modell, das im Test am besten abgeschnitten hat, in einem Unternehmen oder einer anderen Organisation implementiert. So zeigt sich, ob es den gewünschten praktischen Nutzen bringt	
262 
baac32c1-122c-420e-9ed2-e14496369685	This is where the value added by the machine learning project comes into play.	und welcher Mehrwert durch das maschinelle Lernprojekt erzielt wurde.	
263 
f567eedf-9269-46ab-89eb-97da79d21bb4	Self-Check Questions	Fragen zur Selbstkontrolle	
264 
e26e71ca-9239-4b96-bae2-1c088feb0439	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
265 
b08eeb5e-4ac4-4ff3-8473-1a1aeb9b9230	The CRISP-DM cycle describes the machine learning design cycle and the	Der CRISP-DM-Zyklus beschreibt den Entwurfszyklus des maschinellen Lernens und den	
266 
cf7f38ba-76a8-4828-8ccc-06e717697dc5	nature of machine learning projects.	Charakter maschineller Lernprojekte.	
267 
5c59d4f1-0e5f-465f-8769-0fc1e4a1a893	iterative	iterativen	
268 
2d573bbe-c65f-4415-96c3-80552403fa1d	Technical Notions of Learning and Adaption	Technische und begriffliche Grundlagen: Lernen und Anpassung	
269 
65fb8ffb-0da3-4105-9541-7d6280e859ac	Technical Notions of Learning and Adaption	Technische und begriffliche Grundlagen: Lernen und Anpassung	
270 
f233d090-f839-4e2d-b921-60aaab90f9eb	In this section, we will briefly cover the various types of machine learning and look at the steps of the machine learning cycle.	In diesem Abschnitt gehen wir kurz auf die verschiedenen Arten des maschinellen Lernens ein und betrachten die Schritte des maschinellen Lernzyklus.	
271 
09c9ee6b-5e80-4c0e-a7ca-3cb1a22ce195	All supervised learning models will follow a specific process, involving the splitting of a dataset in order to evaluate its ability to make predictions.	Letzterer ist die Grundlage für alle Methoden des überwachten Lernens und sieht die Aufteilung der verfügbaren Daten in mehrere Datensätze vor, damit die Vorhersagegenauigkeit des jeweiligen Modells beurteilt werden kann.	
272 
ee5ccf56-8192-4748-8d9c-fa179568d920	Definition of Machine Learning	Definition des maschinellen Lernens	
273 
b10b8d4f-65b2-46bb-afee-845ce2633979	Now that we have seen a practical example of a machine learning system and how such a system can be constructed, we should focus on some fundamental concepts before continuing.	Aufbauend auf dem obigen praktischen Beispiel und dem Entwicklungsframework der letzten beiden Abschnitte können wir an dieser Stelle zunächst einige Grundbegriffe klären.	
274 
76a1463f-9e76-442a-9923-b04e2799fb98	Machine learning is a field of computer science that focuses on teaching computers to learn what humans do naturally: learn from data and past experience.	So handelt es sich beim maschinellen Lernen um einen Bereich der Informatik, der darauf abzielt, Computern das beizubringen, was Menschen von Natur aus tun: aus Daten und früheren Erfahrungen lernen.	
275 
3f579fff-2533-4764-a379-935d334124fa	Specifically, this is made possible by developing programs and algorithms.	Ermöglicht wird dies durch die Entwicklung von Programmen und Algorithmen,	
276 
911814a8-1dac-4a38-9564-ac169d2710a5	This process should result in a computer being able to automatically make predictions and perform certain tasks without relying on predetermined rules or formulae.	die Computer in die Lage versetzen sollen, automatisch Vorhersagen zu treffen und bestimmte Aufgaben auszuführen, ohne sich dabei auf vorher festgelegte Regeln oder Formeln zu verlassen.	
277 
611acd12-3e73-4fc5-a9d0-0078c6f570c2	American scientist Arthur L. Samuel (1959) defined machine learning as the field that gives computers learning abilities without them being explicitly programmed.	Dementsprechend definierte der amerikanische Wissenschaftler Arthur L. Samuel (1959) maschinelles Lernen als Fachgebiet, das Computern Lernfähigkeiten verleiht, die nicht explizit programmiert wurden.	
278 
86fb3e54-b56f-453f-af94-8c763e54d5d6	Mitchell (1997) offers a more technical definition:	Mitchell (1997) formuliert deutlich formaler:	
279 
aece294f-3138-474d-a801-5e1ba88d88cd	“A computer program is said to learn from experience [1}E{2] with respect to some class of tasks [3}T{2] and performance measure [5}P{2], if its performance at tasks in [7}T{2], as measured by [9}P{2], improves with experience [11}E{2]” (p. 2).	"Ein Computerprogramm lernt aus Erfahrung [1}E{2] in Bezug auf eine Klasse von Aufgaben [3}T{2] und ein Leistungsmaß [5}P{2], wenn sich seine Leistung bei Aufgaben aus [7}T{2] gemessen an [9}P{2] mit der Erfahrung [11}E{2] verbessert" (S. 2).	
280 
cc252ccf-8e6c-42cb-9026-8d850857e936	Types of machine learning	Arten des maschinellen Lernens	
281 
c6c09240-0408-434e-be8a-e4206120dcb2	As previously mentioned, machine learning algorithms are commonly divided into three different categories: supervised learning, unsupervised learning, and reinforcement learning.	Wie bereits erwähnt, werden Algorithmen für maschinelles Lernen üblicherweise in drei verschiedene Kategorien unterteilt: überwachtes Lernen, unüberwachtes Lernen und Verstärkungslernen.	
282 
d247093b-a813-4d5c-a859-4a15a96d5ccc	With supervised learning, the training data that we feed the algorithm include the desired solution (i.e., the label).	Beim überwachten Lernen enthalten die Trainingsdaten für den Algorithmus nicht nur Eingabemerkmale, sondern auch die jeweils gewünschte Lösung (die wir hier als Label bezeichnen).	
283 
7b0c4156-8f95-47c3-a425-2ab5cc3079bd	The goal of supervised learning is to learn how to detect the label based on the features provided when applied to new, unlabeled data.	Auf dieser Grundlage soll das Modell die Zusammenhänge zwischen Merkmalen und Labels lernen, um schließlich auch neue, ungelabelte Daten korrekt zuordnen zu können.	
284 
91e4b9b7-6164-4acd-8eb2-22d598f1591e	We focus on supervised machine learning, i.e., machine learning based on labeled data.	Da wir uns im Folgenden näher mit dem überwachten maschinellen Lernen (auf der Grundlage gelabelter Daten) auseinandersetzen werden,	
285 
0fa915fd-1c1f-405e-a613-bba051b21e6c	Supervised learning can be further grouped into regression tasks (where we predict continuous numeric values) and classification tasks (where we predict pre-known classes).	müssen wir an dieser Stelle zwei Arten von Aufgabenstellungen unterscheiden: Regressionsprobleme (bei denen wir kontinuierliche numerische Werte vorhersagen) und Klassifizierungsprobleme (bei denen wir die Zugehörigkeit zu vorab bekannten Klassen bestimmen).	
286 
f116f281-3a42-4aba-8a1d-d5f566704f96	To perform these tasks, we can choose from a wide variety of algorithms, e.g., linear regression, logistic regression, k-nearest neighbors (KNNs), support vector machines (SVMs), and decision trees.	Für beide Aufgaben steht uns eine Vielzahl von Algorithmen zur Verfügung, z. B. lineare Regression, logistische Regression, k-nearest neighbors (KNN), Support Vector Machines (SVM) und Entscheidungsbäume.	
287 
c6b6d8dc-ec5e-4ecc-9b97-5ccefb108a39	With unsupervised learning, the provided data are unlabeled, and the objective is to analyze and discover patterns therein.	Im Unterschied zu all diesen Verfahren basiert das unüberwachte Lernen auf ungelabelten Daten. Hier besteht das Ziel darin, die Eingabedaten zu analysieren und auf Muster zu untersuchen.	
288 
f059075f-fce7-465c-a619-a0326eebe228	This type of machine learning is usually used for clustering, anomaly detection, dimension reduction, and	Das bedeutet konkret, dass diese Art des maschinellen Lernens häufig für  Clusteranalysen, die Erkennung von Anomalien, die Dimensionsreduktion und das	
289 
ad6d883b-f6bc-46f2-b23c-de7d85afb616	association rule learning	Lernen von Assoziationsregeln	
290 
dddccba0-1e12-4a17-8a0f-3737ee44f537	Association rule learning	Lernen von Assoziationsregeln	
291 
be326c32-1111-4ae0-b2c1-e745b3e6d06e	Discovering and learning about relationships between features is called association rule learning.	Das Erkennen und Erlernen von Beziehungen zwischen Merkmalen wird als Assoziationsregel-Lernen bezeichnet.	
292 
7b66d9bd-d3c2-4ab8-b173-aa070cf5d164	tasks.	eingesetzt wird.	
293 
44dff709-afde-43fd-950d-e3c9ba39738b	When the system observes the environment and selects and performs an action, this is called reinforcement learning, which is our third and final form of machine learning.	Dabei ähnelt das unüberwachte Lernen dem sogenannten Verstärkungslernen insofern, als diese dritte und letzte Form des maschinellen Lernens ebenfalls ohne gelabelte Daten auskommt. Denn ein auf verstärkendem Lernen basierendes System beobachtet seine Umgebung und nutzt die so generierten Daten, um eine Aktion auszuwählen.	
294 
3539045b-3510-4ae3-bed7-ff517e0d50db	If the chosen action results in the desired outcome, the system is rewarded.	Es wird belohnt, wenn die gewählte Aktion zum gewünschten Ergebnis führt, 	
295 
1d7e2a6a-a1b3-4d29-80cb-696e27b20b13	Otherwise, it experiences a penalty, i.e., negative rewards.	andernfalls erhält es eine Strafe, d. h. eine negative Belohnung.	
296 
6d8acbc3-d4eb-4e6d-aca2-c02038f69be5	Over time, it is expected that the system will devise a strategy in order to collect the most rewards; this is called a policy.	Damit verbunden ist die Erwartung, dass das System im Laufe der Zeit eine Strategie entwickelt, um die meisten Belohnungen zu sammeln; dies wird als Policy bezeichnet.	
297 
9ad28aaa-30c5-40b8-aa9b-80f378b67ba9	Machine Learning Process	Der Prozess des maschinellen Lernens	
298 
4f62131c-bded-4cf5-bb55-b937a916e85c	﻿Regardless of whether we are working with regression or classification, the process of supervised machine learning will include the following steps:	Der Prozess des überwachten maschinellen Lernens ist für Regressionsaufgaben und Klassifizierungsprobleme identisch und umfasst in beiden Fällen die folgenden Schritte:	
299 
950403ce-d066-4348-b4ad-4fdb1a2b94d3	learning,	Lernen,	
300 
8297e101-0ea1-48e7-bc16-0e8dab8c07d7	evaluating the model (i.e., controlling the success of the learning stage), and	Bewertung des Modells (d. h. die Kontrolle des Erfolgs der Lernphase) und	
301 
05e548c7-492f-4a84-b111-6ac925060681	optimizing the model (i.e., adapting the learning process further).	Optimierung des Modells (d. h. die weitere Anpassung des Lernprozesses).	
302 
43514947-c95d-4d6f-af74-40e308004d00	﻿These three steps and how they relate to one other are shown in the following figure.	Die folgende Abbildung zeigt die drei Schritte und die zwischen ihnen bestehenden Zusammenhänge.	
303 
c373498e-a45c-4f64-832b-0f53fcb3b8ac	The Steps of the Machine Learning Cycle	Die Schritte des maschinellen Lernzyklus	
304 
0dc76527-8d9e-44b5-a91d-742e6b1471a4	Hofer (2021).	Hofer (2021).	
305 
0233b33f-d5a6-4fe1-8ebd-d14373c0cf1b	[1]	[1]	
306 
c9afebb6-1925-4f84-ac3c-7d6faea2015d	Before the actual learning process can commence, the labeled dataset is first divided into a training set and a test set.	Wie hieraus hervorgeht, wird der gelabelte Datensatz vor Beginn des eigentlichen Lernprozesses zunächst in einen Trainings- und einen Testdatensatz untergliedert.	
307 
0621ea2e-1ecf-4e3e-ac39-cf4ec5481c25	One common division is 80 percent training data and 20 percent testing data, although the ratio to be applied is not defined [1}per se{2].	Üblich ist eine Aufteilung in 80 Prozent Trainingsdaten und 20 Prozent Testdaten, wobei das anzuwendende Verhältnis nicht [1}per se{2] definiert werden kann.	
308 
6ff031e5-69fb-423d-a287-f58cf479c1b1	Once divided, the model is iteratively trained using the training data and tested using the test data.	Anschließend wird das Modell iterativ mithilfe der Trainingsdaten trainiert und anhand der Testdaten getestet.	
309 
5b838c66-ea23-4881-8222-8f2bc93f74cc	During this process, the labels of the test set are withheld from the model.	Während dieses Prozesses werden dem Modell die Labels des Testdatensatzes vorenthalten.	
310 
ac21516e-5646-4fa6-a9d6-d1c6279156d9	The model makes predictions for the test data labels, which are then compared with the actual values of labels in the test set.	Das Modell erstellt Vorhersagen bezüglich der Labels der Testdaten, die dann mit den tatsächlichen Werten der Labels im Testdatensatz verglichen werden.	
311 
a4fee28d-e65a-4ccc-8b4c-7eb447293d3c	The delta between the predicted and actual label values is evaluated, and the model is optimized based on this evaluation.	Dabei wird die Abweichung zwischen den vorhergesagten und den tatsächlichen Labelwerten analysiert und zur Optimierung des Modells genutzt.	
312 
503b9b1c-5610-4325-9d28-5391b89a9358	By repeating these steps numerous times, the model is improved step-by-step, and prediction performance increases.	Durch mehrmaliges Wiederholen dieser Schritte wird das Modell schrittweise verbessert, und die Vorhersageleistung steigt.	
313 
93befda7-79de-4db0-b4c7-f02daf7dd88b	To achieve more robust results, it is common to divide the dataset into three parts: a training dataset, a test dataset, and an additional validation dataset.	Um hier robustere Ergebnisse zu erzielen, wird der Datensatz häufig in drei Teile aufgeteilt: einen Trainingsdatensatz, einen Testdatensatz und einen zusätzlichen Validierungsdatensatz.	
314 
216877e8-1b37-4ae0-9d96-2601de4e7602	Just as before, the training dataset is still used to train the model, and the test dataset is used for the final evaluation after the model training is completed.	Von diesen dient der Trainingsdatensatz (wie zuvor) als Grundlage für das Training des Modells und der Testdatensatz (ebenfalls wie zuvor) als Grundlage für die abschließende Modellprüfung nach Abschluss des Trainings.	
315 
edd5db0a-3c4f-4d34-ac40-b2dd78aad65e	This new validation dataset is used to evaluate the prediction performance during the actual learning process.	Der neue Validierungsdatensatz wird dagegen verwendet, um die Vorhersageleistung während des eigentlichen Lernprozesses zu bewerten.	
316 
3de1bfdd-ff11-42a8-a254-d15bceb66258	It should be noted that the terms “test” and “validation set” are sometimes used interchangeably in the literature relevant to this topic.	In diesem Zusammenhang sei darauf hingewiesen, dass die Begriffe „Testdatensatz“ und „Validierungsdatensatz“ in der einschlägigen Literatur manchmal synonym verwendet werden.	
317 
f0aa3ab8-0a5f-4edc-8647-5546ceceecbd	Cross Validation for Evaluating Machine Learning Models	Bewertung maschineller Lernmodelle durch Kreuzvalidierung	
318 
7dbb64c3-975a-46ee-806c-6a55ba219ea2	The predictive performance of a machine learning model can be evaluated using a variety of metrics specific to the task of regression or classification.	Die Vorhersageleistung eines Modells für maschinelles Lernen lässt sich anhand einer Vielzahl von Metriken bewerten, die jeweils für Regressions- oder Klassifizierungsprobleme geeignet sind.	
319 
73984c3c-78ce-4721-bc3c-c3cc91531b16	Cross validation is designed to evaluate both regression and classification machine learning models.	Kreuzvalidierung nimmt hier eine Sonderrolle ein, weil dieses Resampling-Verfahren sowohl auf Regressions- als auch auf Klassifizierungsmodelle anwendbar ist.	
320 
70494300-81c9-41ed-b84f-75d34161cdd0	This resampling technique can be used in a variety of situations, including during model selection and when comparing the various models to see which will produce the best prediction results.	Die Methode kann unter anderem in der Phase der Modellauswahl zum Einsatz kommen, wenn die Vorhersageergebnisse verschiedener Modelle verglichen werden müssen.	
321 
52bdbb31-a1c9-4052-95e9-363dfc53c0f2	It can also be used during the comparison of	Insbesondere ermöglicht sie die Gegenüberstellung von	
322 
f76c6e8f-05e5-45f1-867f-23d79664bfe6	model parameters	Modellparametern	
323 
904f5161-ab4c-4a5e-863a-de01a7d4fbba	Model parameters	Modellparameter	
324 
3973d9e2-930e-4e70-8815-ad4ecce43df7	The parameters of a model are configuration variables that decide how the model will behave.	Die Parameter eines Modells sind Konfigurationsvariablen, die darüber entscheiden, wie sich das Modell verhalten wird.	
325 
455487d6-1808-46c2-b67f-f29b664efdd7	, thus determining which parameter design yields the best results.	und erleichtert so die Entscheidung darüber, welches Parameterdesign die besten Resultate liefert.	
326 
5cfdbca0-3e9f-4516-bff7-273732243d47	In cross validation, the provided dataset is not split merely into a training and a test set.	Grundlage der Kreuzvalidierung ist die bereits bekannte Aufteilung des vorhandenen Datensatzes in einen Trainings- und einen Testdatensatz.	
327 
c1e143b6-3701-469e-9228-34357f9c500b	Rather, these provided data are split [1}k{2] times.	Allerdings erfolgt das Datensplitting hier nicht nur einmalig, sondern [1}k{2]-mal.	
328 
54b8d918-fcc4-4fd7-837d-84ddbb45d794	In each of these [1}k{2] splits, a different partition is used for testing, and the remaining data are used for training the model.	Bei jeder dieser [1}k{2] Aufteilungen wird eine andere Teilmenge zum Testen verwendet und der Rest der Daten für das Training des Modells genutzt.	
329 
b119b9f7-1445-4d4d-b2df-b1aadfeae7f1	Subsequently, the predictive quality is averaged over these [1}k{2] training and test runs, leading to a more robust conclusion concerning the model’s quality.	Anschließend wird die Vorhersagequalität über diese [1}k{2] Trainings- und Testläufe gemittelt, was zu einer robusteren Einschätzung der Modellqualität führt.	
330 
82c5d74a-e434-4d33-a3a0-1ffc2367b2f5	Cross validation requires just a single parameter [1}k{2], which indicates the number of splits to make.	Dabei erfordert das Verfahren nur einen einzigen Parameter [1}k{2], der die Anzahl der durchzuführenden Partitionierungsvorgänge angibt.	
331 
fbd38ad0-08c3-4924-a5bc-8c1a5d734787	For this reason, this is also called [1}k{2]-fold cross validation.	Die jeweils gewählte Variante wird dann als [1}k{2]-fache Kreuzvalidierung bezeichnet.	
332 
f8ace935-1d22-4f7e-aa00-e22cb01afe26	For example, [1}k=10{2], a common value, reflects a ten-fold cross validation.	Zum Beispiel verweist der gängige Wert [1}k=10{2] auf eine zehnfache Kreuzvalidierung,	
333 
5f7c96e7-6ff4-4a5a-97bd-8093eb83fb66	For a better understanding, the following graphic shows visually how a ten-fold cross-validation works.	deren Ablauf in der nachstehenden Abbildung veranschaulicht wird.	
334 
f7a3818c-00bb-42da-9422-55461dba4a9c	Cross-validation is very computationally intensive.	Wie unschwer einzusehen ist, sind derartige Resampling-Prozesse äußerst rechenintensiv.	
335 
359db3e6-382c-41cf-989d-f2d2c8c1d3ac	Instead of training and validating a model once, this is done k times.	Denn anstatt ein Modell einmal zu trainieren und zu validieren, werden diese Vorgänge k-mal wiederholt.	
336 
20f37061-3815-4b28-8028-513c8366e8d1	This disadvantage is kept within limits if the value of the parameter k is kept within acceptable ranges, typical values here are, for example, k=5 or k=10, or by having sufficiently large computing capacities, so that this disadvantage is not severe.	Indessen hält sich dieser Nachteil in Grenzen, wenn der Wert des Parameters k im akzeptablen Bereich gehalten wird (typische Werte sind k=5 oder k=10). Alternativ kann er auch durch die Bereitstellung ausreichender Rechenkapazitäten ausgeglichen werden.	
337 
90995198-4a58-4017-8a8b-84361e1d40c3	Ten-Fold Cross Validation	Zehnfache Kreuzvalidierung	
338 
17f03627-69ca-43a9-9765-9adbc9be43fa	Hofer (2021).	Hofer (2021).	
339 
b9bcff5d-32e4-4717-a604-b4a017343e58	[1]	[1]	
340 
71a5e46c-7f93-4b08-8cdd-8a53fbee2eef	Optimization	Optimierung	
341 
57b0e0f2-a15f-4818-b0cb-926a78d4a30e	﻿The loss function, also called the objective or target function, is the computation of our model’s prediction accuracy rate and how much these predictions differ from the true values of the labels.	Beim maschinellen Lernens spielt die Verlustfunktion (auch Zielfunktion genannt) eine entscheidende Rolle, weil sie die Berechnung der Vorhersagegenauigkeit unseres Modells bzw. der Abweichung unserer Vorhersagen von den Labelwerten ermöglicht.	
342 
d9743d1e-0398-47b5-84bb-e60082ba37fb	The model’s accuracy improves based on the minimization of this loss function.	In der Trainingsphase steigern wir die Genauigkeit unseres Modells, indem wir die Verlustfunktion minimieren.	
343 
e4f15530-9f9e-4824-9808-6e902f7edfb1	It can be also used to assess the quality of the model when we calculate the accuracy of the model using the test data.	Hierfür nutzen wir einen Optimierungsalgorithmus (auch: Optimierer), der die Parameterwerte des Modells	
344 
1a058fb4-715d-4ba3-a514-8a0d5534edd9	The function that minimizes the loss function, the optimizer, iterates over the model’s parameter values.	bei jedem Iterationsschritt aktualisiert, bis sie schließlich zu einer Lösung konvergieren.	
345 
231ce6da-1751-4bfb-8771-b814a7ac5d1e	During each training iteration, it updates these values, thus incrementally minimizing the loss function and devising a solution.	Außerdem verwenden wir die Verlustfunktion nach dem Ende des Trainings, um die Genauigkeit des Modells in Bezug auf die Testdaten zu berechnen.	
346 
50174529-9342-4e88-aedd-acace901b61a	Gradient descent	Gradientenabstieg	
347 
727815bc-ffc1-4ffe-8d57-ef84123bd38d	﻿Gradient descent is one of the most common optimization algorithms used in machine learning.	Das Gradientenabstiegsverfahren ist einer der am häufigsten verwendeten Optimierungsalgorithmen im Bereich maschinelles Lernen.	
348 
ba713d92-bcdc-42eb-8265-984d2fc75a86	With gradient descent, the model parameters are iteratively tweaked to minimize the loss function (and find its global minimum).	Dabei werden die Modellparameter iterativ so angepasst, dass die Verlustfunktion minimiert wird (und die Parameterwerte schließlich das globale Minimum erreichen).	
349 
29666c87-9260-4805-b329-3c12f8ca96d6	At the start of the training phase, the model parameters are initialized by random values.	Zu diesem Zweck werden die Modellparameter zu Beginn der Trainingsphase mit Zufallswerten initialisiert.	
350 
f43b9003-5da9-4514-901f-f02bb46db4c9	From there, the goal is to work in the direction of the steepest descent of the loss function gradually, i.e., to take the step offering the largest possible loss reduction.	Alle Folgeschritte zielen dann in Richtung des steilsten Abfalls der Verlustfunktion, d. h. es wird jeweils der Schritt getan, von dem die größtmögliche Verlustreduktion zu erwarten ist.	
351 
838d175b-a6d9-4c4d-a448-fd50e60a88bc	The gradient descent locates the steepest descent by determining the local gradient of the loss function (i.e., the partial derivative of the loss function) and goes in the negative direction of the gradient.	Konkret bedeutet das, dass beim Gradientenabstieg zunächst der lokale Gradient bzw. die partielle Ableitung der Verlustfunktion berechnet wird und die Bewegung stets in Richtung des Gradientenabfalls bzw. des Abfalls der partiellen Ableitung der Verlustfunktion erfolgt.	
352 
41aea501-8c7d-48e6-b48b-39818b793b5c	This is repeated until the function’s minimum has been reached.	Dies wird so lange wiederholt, bis das Minimum der Funktion erreicht ist.	
353 
31477968-4a84-4596-8f8f-bdc8501477b9	This process is illustrated in the figure below.	Die nachstehende Abbildung zeigt einen möglichen Verlauf eines solchen Lernprozesses.	
354 
3d77cf72-cf53-46e4-b9b6-9859a7427a4d	Gradient Descent	Gradientenabstieg	
355 
02140925-706a-4cae-bbb9-74086027c91c	Hofer (2021).	Hofer (2021).	
356 
102e2ade-cfcb-4a31-a184-65ca0453dfdd	[1]	[1]	
357 
bca7b61f-11ff-4b24-8e4f-2f9f44ea697e	An important aspect of gradient descent optimization is the size of the single optimization steps, which is influenced by the chosen learning rate.	Ein wichtiger Aspekt der Gradientenabstiegsoptimierung ist die Größe der einzelnen Optimierungsschritte. Sie wird über die Lernrate gesteuert	
358 
338dfef3-d307-424a-abeb-28158be015be	Multiplying the chosen learning rate with the calculated gradient will result in the size of the particular optimization step.	und ergibt sich aus deren Multiplikation mit dem errechneten Gradienten.	
359 
ac136745-19fb-46bc-a8d8-f3b03ef1350c	If the learning rate is too low, the convergence of the function (i.e., the finding of the optimum) may take a very long time.	Wenn die Lernrate zu niedrig ist, kann es sehr lange dauern, bis die Funktion konvergiert (bzw. bis das Optimum gefunden wird).	
360 
db9dca14-fb9f-4857-83ed-2590ccd18fe2	It could even end in a local minimum instead of the global minimum, as shown in the following figure.	Zudem kann der Lernprozess in einem lokalen Minimum anstelle des globalen Minimums enden, wie in der folgenden Abbildung dargestellt.	
361 
3c66cf12-eebf-4f20-ae2c-760de585b638	Conversely, a large learning rate could lead us to the global minimum much quicker.	Im Vergleich dazu könnten wir das globale Minimum mit einer hohen Lernrate sehr viel schneller erreichen –	
362 
25a5a856-106e-4845-a023-0b9cc857e7c2	However, we would then run the risk of overshooting the global minimum entirely.	oder unbeabsichtigterweise über das globale Minimum hinausschießen.	
363 
baf8e3e5-2052-403f-944f-ac3d0f72a549	The optimal learning rate quickly leads us to the convergence of the function at the global minimum.	Optimal ist eine Lernrate, die uns schnell und ohne Umwege zum globalen Minimum der Verlustfunktion führt.	
364 
eb40b677-27b7-4381-8543-af4cc1ea8ce5	Not all loss functions are convex, as can be seen in the following figure.	Wie aus der nachstehenden Abbildung hervorgeht, stellt sich dabei das Problem, dass nicht alle Verlustfunktionen konvex sind.	
365 
dd499fbd-b7ff-4c30-b047-772a86715ea0	In fact, they may have local minima and plateaus that render finding the global minimum difficult.	Sie können lokale Minima und Plateaus aufweisen, die das Auffinden Aufspüren des globalen Minimums erschweren.	
366 
00ab0d49-17bc-4184-b149-951345848dee	Stochastic gradient descent can help us solve this problem by taking a subsample of the training observations and using it for the optimization process, making the algorithm faster.	Eine mögliche Lösung dieses Problem ist der Einsatz des stochastischen Gradientenabstiegsverfahrens, das bei jedem Iterationsschritt eine Zufallsstichprobe der Trainingsinstanzen für die Optimierung nutzt.	
367 
cfc0b365-c982-42ab-b82a-8f28f8139c72	The stochastic nature of random sampling also adds a degree of randomness when descending the gradient of the loss function.	Dementsprechend zeichnet sich ein stochastischer Gradientenabstiegsprozess durch ein gewisses Maß an Zufälligkeit aus. 	
368 
386ab92c-c276-42bc-a1af-72ea1864bfc3	Although this added randomness does not necessarily guarantee that the algorithm will find the absolute global minimum, it can help the algorithm get sufficiently close, i.e., by allowing it to jump away from any minima and plateaus (Boehmke & Greenwell, 2019).	Obwohl dieses Zufallselement nicht garantiert, dass das absolute globale Minimum erreicht wird, kann es doch dazu beitragen, dass der Algorithmus nahe genug herankommt, weil er aus lokalen Minima und Plateaus herausspringen kann (Boehmke & Greenwell, 2019).	
369 
00136610-0d0a-4977-a53c-41a6aa7df5bc	Learning Rates	Auswirkungen verschiedener Lernraten	
370 
8617ae45-3a28-4ed0-85ab-5f711647167f	Hofer (2021).	Hofer (2021).	
371 
9023d44f-e0d1-49a5-9527-6647e2c0738c	[1]	[1]	
372 
750064da-d613-4ec4-9aec-e293528032f4	﻿The major advantage of gradient descent optimization compared to other optimization methods is the varying step size.	Der große Vorteil der Gradientenabstiegsoptimierung im Vergleich zu anderen Optimierungsverfahren ist die Tatsache, dass die Schrittweite	
373 
130a1bd4-0372-4e73-9221-1cbb4bd42683	It varies depending on the distance from the minimum we are trying to find.	mit der Entfernung vom gesuchten Minimum variiert.	
374 
dae6d32f-bda8-48d3-9bea-69df2cb7f21f	We take larger steps when we are far from the optimum and smaller steps when we are closer.	Wir machen also größere Schritte, solange wir weit vom Optimum entfernt sind, und schreiten weniger schnell voran, wenn die Distanz schrumpft.	
375 
b0abf428-89ac-4369-97eb-71b8cc39911f	This flexibility is what makes gradient decent so powerful and fast.	Diese Flexibilität macht den Gradientenabstieg zu einem ebenso leistungsfähigen wie schnellen Verfahren.	
376 
4b5f48f1-6c71-4da6-8ecc-97bb179edfe2	Self-Check Questions	Fragen zur Selbstkontrolle	
377 
8be27739-03ae-47e3-87ca-ffaa279131bf	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
378 
7bf92b33-1763-4c65-8bf6-23d0e56ed305	The performance of a machine learning model can be evaluated with the help of a	Die Leistung eines maschinellen Lernmodells lässt sich anhand einer	
379 
b2a5fd4d-49d8-4831-9e7c-69d237adc80c	.	bewerten.	
380 
a18b7eaa-5920-4809-a050-140bd95e1ae9	metric	Metrik	
381 
ff9209c5-5e19-4f64-8ab3-0abf47d37ef6	Under- and Overfitting	Unter- und Überanpassung	
382 
d637031e-8fd0-45d5-83b2-0b6c4057e03a	Under- and Overfitting	Unter- und Überanpassung	
383 
8f78f2c2-420f-4ae0-80e6-f7716d854357	Overfitting is a phenomenon where a model performs well with the training data and struggles with the test data left unseen during the learning phase.	Überanpassung liegt vor, wenn ein Modell in Bezug auf die Trainingsdaten eine gute Vorhersageleistung bietet, im Hinblick auf die (in der Lernphase nicht berücksichtigen) Testdaten jedoch Schwächen zeigt.	
384 
45e5e7c2-ffe8-4061-809f-6eb1b5dd1a29	This means that the model fails to generalize the learned knowledge and is unable to apply it to new, previously unseen data.	Das bedeutet, dass das Modell nicht auf neue Daten anwendbar und somit nicht generalisierbar ist,	
385 
c6ea900b-6e12-4b41-b0b7-b568b0d79294	In reality, the model will have simply memorized the training data.	weil es die Trainingsdaten gewissermaßen auswendig gelernt hat.	
386 
5f629868-cf7b-46ec-b34c-8f8710ace947	To illustrate the problem of overfitting and underfitting, it makes sense to first look at the problem visually.	Die folgende Abbildung veranschaulicht Probleme der Über- und Unteranpassung am Beispiel.	
387 
06b79695-18d0-4cfe-b455-19e408f5ce77	Overfitting and Underfitting in Regression	Überanpassung und Unteranpassung bei Regressionsmodellen	
388 
6ac4c4d3-8e4d-491b-b401-d80e06f03bbe	Hofer (2021).	Hofer (2021).	
389 
33db4db3-50a2-4aed-b2ce-3b5531b405b5	[1]	[1]	
390 
1cbcf50e-2884-402c-9e01-9a746d811d66	﻿This figure shows three different regression models (the lines) and how they perform on the training and the test data (the dots).	Diese Abbildung zeigt drei verschiedene Regressionsmodelle (die hier durch Linien markiert sind) sowie ihre jeweilige Vorhersageleistung in Bezug auf die Datenpunkte der Trainings- und Testdaten.	
391 
c0bb13e8-fbd4-40dc-ac4f-a635fe8e8aee	It is apparent that the first model, the linear model, does not manage to represent the pattern in the training data.	Es ist offensichtlich, dass das erste, lineare Modell, schlicht nicht geeignet ist,	
392 
52028240-fc5a-46e7-ac4c-f4229882808f	Instead, the data have a nonlinear relationship, which this linear model simply does not capture.	um das nichtlineare Verteilungsmuster der Datenpunkte abzubilden.	
393 
d63abe0c-b09f-4b32-9170-3494f8029c17	This results in a high degree of training error (i.e., a high bias).	Dies resultiert in einem hohen Trainingsfehler bzw. Bias,	
394 
10b71774-281f-4ba9-b2aa-654d091afc02	Bias is the inability of a machine learning model to capture the true relationship between the label and the features.	d. h. in einem augenfälligen Unvermögen des maschinellen Lernmodells, die wahre Beziehung zwischen Labels und Merkmalen zu erfassen.	
395 
ad567e82-b0b1-4c60-b07e-3ede9b288eaa	It is caused by erroneous assumptions that are inherent to the learning algorithm.	Ein solcher Bias wird durch falsche Prämissen des Lernalgorithmus verursacht.	
396 
0776b83f-3a93-4e65-a30b-e6fa6d0455d0	This model is too simple to properly capture the underlying relationships in the data.	In diesem konkreten Fall geht das Modell von einer zu einfachen Beziehung zwischen Eingaben (Merkmalen) und Ausgaben (Labels) aus.	
397 
d532d6ab-7f68-462b-9c61-d3c6c5547348	It has already performed poorly on the training data (as it is “underfitted”), which may lead it to make poor predictions when presented with the test dataset.	Daher zeigt sich bereits in der Trainingsphase eine Unteranpassung des Modells,	
398 
dc69bde0-12b1-4162-9313-9cf1ccd7730b	This results in a high error with the test data, i.e., a high variance.	die zwar die Varianz minimiert, jedoch in der Testphase zu falschen Vorhersagen in Bezug auf die Testdaten führt.	
399 
15065d63-335a-4b8d-968b-e8c58f24b31a	By contrast, the third model performs outstandingly with the training data and shows a very low bias.	Im Gegensatz dazu bildet das dritte Modell die Trainingsdaten hervorragend ab und weist einen sehr geringen Bias auf.	
400 
d50e1edc-98c6-4d3f-9592-9f6a75405395	However, it fails to generalize its knowledge to new, unseen data and results in high variance with the test dataset.	Sein größter Nachteil ist seine hohe Varianz, die seine erfolgreiche Anwendung auf neue Daten verhindert und sich in der Testphase in einem ausgeprägten Vorhersagefehler in Bezug auf den Testdatensatz niederschlägt.	
401 
42fabb39-ea28-4388-b965-82c59e6e6b4e	The model is “overfitted” (i.e., fitted too closely) to the pattern in the training data.	Ursache hierfür ist die zu genaue Anpassung bzw. Überanpassung des Modells an die Trainingsdaten.	
402 
2e64c90f-23d2-4979-a221-f6ab399bb292	Those who build the models are the ones responsible for avoiding overfitting and underfitting problems.	Das bedeutet: Wer ein Modell erstellt, sollte Probleme der Überanpassung und Unteranpassung tunlichst vermeiden.	
403 
27830dad-4a0a-4011-a257-8ba221af2253	The model must be constructed in such a way that it can recognize and understand the underlying relationships of the data well without losing the ability to generalize what it has learned.	Ein Modell muss so aufgebaut sein, dass es einerseits die den Trainingsdaten zugrundeliegenden Beziehungen gut abbilden kann und andererseits generalisierbar, d. h. auf neue Daten anwendbar ist.	
404 
7b16490c-ce9f-4682-9c3c-5d78a40544ec	This is also called the variance-bias-tradeoff.	Dies wird auch als Bias-Varianz-Dilemma bezeichnet.	
405 
5bbb8dd8-62f2-4d5b-abaa-fc4d6974c289	An optimal balance between bias and variance is required to never underfit or overfit the model.	Um eine Über- bzw. Unteranpassung des Modells zu vermeiden, ist ein optimales Gleichgewicht zwischen Bias und Varianz erforderlich.	
406 
acf74945-90f5-4643-906f-020f9bc3ee22	For the sake of completeness, the following figure illustrates the problem of overfitting and underfitting in classification models.	Dieses Problem wird in der nachstehenden Abbildung nochmals illustriert, dieses Mal allerdings für Klassifizierungsmodelle.	
407 
a085a1ef-f58b-4cae-8e74-f60c30443642	Generally, the principle is the same here as it is for regression models: classifiers that do not capture essential patterns in the data reflect underfitting, and classifiers fitted too closely to the training data reflect overfitting.	Hier liegt eine Unteranpassung vor, wenn ein Klassifikator wesentliche Muster in den Daten nicht erfasst bzw. abbildet, während ein überangepasster Klassifikator die Gruppeneinteilung der Trainingsdaten zu genau nachzeichnet.	
408 
dde452f7-cee2-4a75-87e4-676a11e39c09	Overfitting and Underfitting in Classification	Überanpassung und Unteranpassung bei Klassifizierungsmodellen	
409 
77755736-b102-42a0-b375-f89cf7b5f346	Hofer (2021).	Hofer (2021).	
410 
19bc2d2f-a6b6-46e1-8cb8-de8c32eec40e	[1]	[1]	
411 
d59a5cd3-8459-40c2-bfa3-114725acf7f7	﻿Now that we are aware of these problems, how can we avoid building a model that is overfitted or underfitted?	An dieser Stelle stellt sich die Frage, was wir tun können, um einer Überanpassung oder Unteranpassung unserer Modelle für das maschinelle Lernen vorzubeugen.	
412 
55eff0bb-bc83-4bba-a380-5c705e5d581c	Avoiding Overfitting	Vermeidung einer Überanpassung	
413 
7d5f482c-2405-4da8-bf45-6f6725fc54d0	The following is a list of measures one can take to prevent overfitting:	Um eine Überanpassung zu verhindern, können wir die folgenden Maßnahmen ergreifen:	
414 
619836ca-437f-4963-aeb8-1f784e6fa143	choosing a less complex model	Wahl eines weniger komplexen Modells	
415 
1fd21ff3-5b36-428f-ae14-8e413d2e7cce	collecting more training data	Sammlung weiterer Trainingsdaten	
416 
0b2b9e70-8e06-4f1c-831b-055b20b77550	reducing noise in the training data (e.g., fixing data errors and removing outliers)	Reduktion des Rauschens in den Trainingsdaten (z. B. Korrektur von Datenfehlern und Entfernung von Ausreißern)	
417 
2f374d29-26f5-468f-88aa-67a1f3100caf	using	Einsatz eines	
418 
656ee5e2-4703-4bd5-b906-673937cc9022	regularization	Regularisierungsverfahrens	
419 
aaa7f991-52dc-48bd-aa15-e5b345c045ac	Regularization	Regularisierung	
420 
f86e17ce-9467-4298-b4e5-2db36c014ca2	When a penalty term that targets higher model complexity is built into a model, this is called regularization.	Bei der Regularisierung wird die Verlustfunktion des Modells um einen Strafterm erweitert, der mit der Modellkomplexität wächst.	
421 
0031e03a-b187-4afd-afa3-eca226a68fe3	Avoiding Underfitting	Vermeidung einer Unteranpassung	
422 
9d17d4ac-bda4-4fb3-be54-a45a8674aa4e	As previously stated, underfitting happens when a model is too simple to learn the underlying structure of the data.	Wie bereits erwähnt, liegt eine Unteranpassung vor, wenn ein Modell zu einfach ist, um die den Daten zugrunde liegende Struktur zu erlernen.	
423 
2f8bcc59-b3b1-46a5-83ab-02b7fe49db38	Predictions from an underfitting model are bound to be inaccurate, as they cannot precisely represent reality.	In diesem Fall kann das Modell die Realität nicht präzise abbilden, was seine Vorhersagen zwangsläufig ungenau macht.	
424 
dd0867a9-675a-4719-9d6c-55c7d2f97efb	The following is a list of possible measures that one can take to avoid underfitting:	Zur Vermeidung solcher Probleme stehen uns die folgenden Maßnahmen zur Verfügung:	
425 
ee88d080-a2f0-456e-aedd-31396225484b	selecting a more powerful, mathematically complex model	Wahl eines leistungsfähigeren, mathematisch komplexeren Modells	
426 
4847534c-c78f-472d-87c5-9e5e68653ade	extracting better features that represent the real world and feeding it to the algorithms	Erweiterung des Algorithmus und Trainingsdatensatzes um aussagekräftigere Merkmale, die die Realität besser abbilden	
427 
52bff40b-7fee-401b-b69b-471311cd73fd	reducing constraints (e.g., reducing regularization) on the model	Verringerung der Einschränkungen des Modells (beispielsweise durch Abschwächung der Regularisierung)	
428 
abb708a3-4460-4551-804f-4a788cf67664	Self-Check Questions	Fragen zur Selbstkontrolle	
429 
dc899651-863f-48be-8d3f-cb6856c4abc9	Please select the correct statement(s).	Bitte markieren Sie die korrekte(n) Aussage(n) mit einem Haken.	
430 
9c695c0c-ce6a-4497-bc52-41c9f457f56e	The simpler the model, the better we can avoid underfitting.	Je einfacher das Modell, desto geringer ist die Wahrscheinlichkeit einer Unteranpassung.	
431 
0765fd2f-f6e0-4e3c-ad54-deca69fc85e1	A complex model may lead to better accuracy on training data and less accuracy on test data.	Ein komplexes Modell kann zu einer höheren Genauigkeit bei den Trainingsdaten und einer geringeren Genauigkeit bei den Testdaten führen.	
432 
851b83e8-ef40-45f7-8c3f-6eb35eb2ff0a	A complex model is always beneficial for better accuracy.	Ein komplexes Modell ist ein Garant für eine höhere Genauigkeit.	
433 
0ddee848-1047-4dbd-a21e-87ca8d22904b	Summary	Zusammenfassung	
434 
cbf01ffb-a9a2-4628-baee-6a9f9ff7a85a	Data collection and processing have become an integral part of today’s modern world.	Datenerfassung und -verarbeitung sind aus der modernen Welt nicht mehr wegzudenken.	
435 
6b3392e4-b97f-4e39-8db4-fa0abfc1c19a	Pattern recognition is a process in which machine learning techniques are used to find and understand underlying insights hidden in data.	Ein Beispiel hierfür ist die Mustererkennung – ein Prozess, bei dem maschinelle Lernmethoden eingesetzt werden, um in Daten verborgene Muster zu identifizieren.	
436 
941fb593-82aa-4b34-a8bb-3bdb835ad410	In this process, labels are assigned an observation based on its features.	Das Verfahren basiert auf der Auswertung von Beobachtungen, denen das System in Abhängigkeit ihrer jeweiligen Merkmale Labels zuweist.	
437 
f0e8efdd-3080-4ef4-81ae-c4325c8ab439	There are two types of pattern recognition: supervised learning, wherein the training dataset features both labels and features; and unsupervised learning, wherein the training dataset exclusively contains features.	Zu diesem Zweck stehen grundsätzlich zwei Arten der Musterkennung zur Verfügung: das überwachte Lernen, bei dem der Trainingsdatensatz sowohl Labels als auch Merkmale enthält, und das unüberwachte Lernen, bei dem der Trainingsdatensatz ausschließlich Merkmale umfasst.	
438 
069dd15b-cdfb-4469-96e3-86a40b1a6faf	For supervised learning, there are many algorithms one can employ, including linear regression, logistic regression, and k-nearest neighbors (KNNs).	Für Ersteres gibt es viele zielführende Algorithmen, darunter die lineare Regression, die logistische Regression und k-Nearest-Neighbors (KNN).	
439 
6517cfd0-40e7-4cae-bf20-2fe471b78caa	The Cross-Industry Standard Process for Data Mining (CRISP-DM) is seen as the blueprint for the development of machine learning models and comprises six phases: business understanding, data understanding, data preparation, modeling, evaluation, and deployment.	Außerdem liegt uns mit dem Cross-Industry Standard Process for Data Mining (CRISP-DM) eine Blaupause für die Entwicklung von Modellen für das maschinelle Lernen vor. Dieses Framework umfasst insgesamt sechs Phasen und gliedert sich in Business Understanding, Data Understanding, Modeling, Evaluation und Deployment.	
440 
c76796ed-a8c6-4d2f-badd-b64b00a462c1	To ensure the model’s accuracy, it must be optimized.	Voraussetzung für den Erfolg eines derartigen Lern- bzw. Entwicklungsprozesses ist die Prüfung und Optimierung der Genauigkeit des betreffenden Modells.	
441 
51e0ad14-ceea-4015-b0ab-db7f08a61d7b	The loss function is the computation of the model’s prediction accuracy and how far it differs from the true value of the labels.	Das bedeutet zum einen, dass wir mithilfe einer Verlustfunktion die Abweichung des Modelloutputs von den Labelwerten quantifizieren und so die Vorhersagegenauigkeit des Modells berechnen.	
442 
1aef7175-dd20-4c27-ae62-e93595367706	A model’s accuracy improves based on the minimization of the loss function.	Zum anderen optimieren wir das Modell durch Minimierung der Verlustfunktion.	
443 
fa060a2d-23b6-4fb2-9880-17c2f7d478df	One of the most common methods of model optimization is gradient descent, where the parameters are iteratively altered to minimize the loss function.	Eine der gängigsten einschlägigen Methoden ist der Gradientenabstieg, bei dem die Modellparameter iterativ verändert werden.	
444 
828b2bb0-9a69-4264-a7bf-27ee29102e45	Overfitting is when a model performs well with training data and poorly with unseen data; underfitting, by comparison, is when the model fails to reflect reality due to its lack of complexity, which causes a high rate of error on both sets of data.	Am Ende dieses Prozesses können zwei Probleme auftreten: Überanpassung und Unteranpassung. Von einer Überanpassung spricht man, wenn ein Modell bei den Trainingsdaten eine gute, bei den Testdaten dagegen eine schwache Vorhersageleistung zeigt. Unteranpassung bezeichnet das Phänomen, dass das Modell wegen seiner allzu geringen Komplexität die Realität nicht präzise abbilden kann und daher sowohl in der Trainingsphase als auch in der Testphase viele Vorhersagefehler macht.	
445 
75fbbc29-ff2a-4247-9002-f92867821891	Regression	Regression	
446 
9573e4ff-8ff1-48ff-a2b9-a2c29f801ee9	Regression	Regression	
447 
f7dd192b-b8ca-4429-8506-115b9b184d9f	Study goals	Lernziele	
448 
583bbdbd-08ea-461c-b201-a310b1327ab2	On completion of this unit, you will be able to …	Nach Abschluss dieser Lektion werden Sie in der Lage sein, ...	
449 
a84c6dac-d40e-4d90-992a-cbdc33d59053	understand the concept of regression and when to use it.	das Prinzip und die Anwendungsbereiche von Regressionsmodellen zu erläutern.	
450 
76b89473-c54c-4a81-9b70-4387ca6298a7	evaluate a regression model’s performance.	die Leistung eines Regressionsmodells zu bewerten.	
451 
0f69a439-d087-4721-b7c9-baa10138d8a0	utilize regularization techniques and understand where they are implemented.	Regularisierungsmethoden zu nutzen und zu implementieren.	
452 
dae296de-2677-470b-8145-05e8019d0035	apply different well-known regression models with the use of Python.	verschiedene bekannte Regressionsmodelle in Python umzusetzen.	
453 
3d2c590d-4f1e-41af-bf9a-2963025cdc1e	Introduction	Einleitung	
454 
c1354ed7-7af7-44db-8bb7-b30ac67b1d38	Supervised machine learning models are trained using data that include both the inputs and the outputs the machine should learn to predict.	Wie wir bereits wissen, werden überwachte maschinelle Lernmodelle anhand von Daten trainiert, die neben Eingaben auch die Ausgaben enthalten, die das System schließlich vorhersagen können soll.	
455 
a68a207e-496a-4f62-a47a-905c93e4c792	These outputs (i.e., the respective labels) can be of categorical or numerical nature.	Dabei können die gewünschten Ausgaben (die wir hier als Labels bezeichnen) grundsätzlich kategorialer oder numerischer Art sein.	
456 
43e28fd9-6251-407c-9162-9b85388af4a1	The range of applications of regression models in practice is quite versatile.	Doch Regressionsmodelle sind für Zahlen konzipiert und werden nur verwendet, wenn es sich bei den Output bzw. Labels um kontinuierliche numerische Werte handelt.	
457 
93f78bc1-d6f7-4739-919c-938b469b879f	These are used when the labels are continuous numeric values.	Zu ihren vielfältigen praktischen Anwendungsmöglichkeiten zählen unter anderem	
458 
c04b98bd-9681-4249-847b-e1a27ddf3d0b	In the real world, we see examples of their implementation every day, including in weather forecasts, sales projections, the recording of users visiting a particular website, and individual income balancing.	Wettervorhersagen, Umsatzprognosen, die Erfassung des Nutzerverhaltens beim Besuch einer Website und die Schätzung individueller Einkommen.	
459 
cbd36b78-c6b7-42bf-9ead-e65f3474deea	This unit will focus on the concept of regression, presenting and explaining some of the most common algorithms and methods.	Diese Lektion erläutert das Prinzip des Verfahrens und stellt die gängigsten einschlägigen Algorithmen vor.	
460 
d19340e0-c146-4062-918d-a3352efe61c0	We will find answers to the following questions:	Dabei werden die folgenden Fragen beantwortet:	
461 
d3d09d00-b321-40c8-b0aa-fe3258cb1f6c	How do regression models work, and what is the math behind them?	Wie funktionieren Regressionsmodelle und was sind ihre mathematischen Grundlagen?	
462 
d644db5d-0c2c-47b0-9afa-f91550709c5e	How can we evaluate the performance of a regression model?	Wie können wir die Leistung eines Regressionsmodells bewerten?	
463 
e9e07718-7204-4af1-911e-d15adb52eefd	How can we reduce bias and variance in regression models?	Wie können wir Bias und Varianz von Regressionsmodellen reduzieren?	
464 
9099ca3e-e198-4a43-9023-260366f37baf	How can we apply a regression model with Python?	Wie lässt sich ein Regressionsmodell in Python implementieren?	
465 
7aedc022-87a9-4e10-ad0a-a8e4d00293a1	Linear Regression	Lineare Regression	
466 
25db6181-cbc7-48b8-baab-4ef97ffb32cf	Linear Regression	Lineare Regression	
467 
f4564e0d-994f-4de2-81f1-85f7fde28a65	First, let us look at some fundamental regression-related terms widely used in relevant literature and their synonyms.	Zum Einstieg betrachten wir einige grundlegende Begriffe (und ihre Synonyme), die in der Literatur zum Thema Regression häufig verwendet werden:	
468 
0c0521bb-9e5d-48e1-9ecc-88a9f96fd66c	Important Regression Terms and Their Synonyms	Wichtige Begriffe zum Thema Regressionund ihre Synonyme	
469 
15f4c02c-03f2-4491-bd3e-dd71822ce908	Hofer (2021).	Hofer (2021).	
470 
35909a21-4375-43ab-b3a1-f446829f8158	Term	Begriff	
471 
b908eb02-216e-4a29-952c-9942217c256d	Synonyms	Synonym(e)	
472 
4d423a16-b6b4-4a62-bf24-14cc02707c6f	Target variable ([1}Y{2])	Zielvariable ([1}Y{2])	
473 
b2f29613-6f59-4ed7-b49a-66b9f96cb6a9	Label, y variable, dependent variable	Label, y-Variable, abhängige Variable, Output, Ausgabe	
474 
fdca0383-055a-43a3-81fd-05185cacaa8e	Input ([1}X{2])	Eingabe/Input ([1}X{2])	
475 
60d2e975-573c-468e-bd14-6581b6815485	X variables, independent variables, predictors, features	X-Variablen, unabhängige Variablen, Prädiktoren, Merkmale	
476 
ed6dd18a-c6c8-4ad3-aa9a-4e8f015111ac	Coefficient ([1}ω[2}i{3]{4])	Koeffizient ([1}ω[2}i{3]{4])	
477 
91035ae9-48cf-4e07-a4f7-c030438df3ab	Weight, slope, regression coefficient	Gewicht, Steigung, Regressionskoeffizient	
478 
e748c67e-d836-46d6-8f44-480f5a8975f7	([1}y{2]-axis) Intercept ([3}ω[4}0{5]{2])	[1}y{2]-Achsenabschnitt/Ordinatenabschnittt ([3}ω[4}0{5]{2])	
479 
fd1187c5-0de9-484e-97b0-265683da97b9	Bias	Bias	
480 
0dd5da2e-555d-4ed0-a66a-6619184d90a2	Loss function	Verlustfunktion	
481 
1ba55453-6b05-4159-a391-107a96bc5b6d	Cost function, target function, objective function,	Kostenfunktion, Zielfunktion,	
482 
97ee7418-3dcb-4f08-a538-f3c2151685e5	error function	Fehlerfunktion	
483 
5d245217-862f-4ede-954c-0049727cfbab	Algorithm	Algorithmus	
484 
153dd55a-7c5c-4846-8217-4ac56255b56a	To understand the concept of regression, we will first focus on linear regression (the simplest form) and then move to some more complex, efficient models.	Um uns das Prinzip der Regression zu erschließen, konzentrieren wir uns zunächst auf die lineare Regression (die einfachste Form) und gehen dann zu komplexeren Modellen mit verbesserter Effizienz über.	
485 
8adb84e3-3902-4cf4-aae5-c69bb339930d	Linear regression tries to predict the output [1}Y{2], based on an input [3}X{2] or even a larger number of [5}n{2] inputs [7}X[8}i {9](I=1, 2, ..., n){2], i.e., the features.	Lineare Regressionsmodelle schätzen den Wert der Ausgabe bzw. des Labels [1}Y{2]auf der Grundlage einer einzelnen Eingabe [3}X{2] oder einer größeren Anzahl von [5}n{2] Eingaben bzw. Merkmalen [7}X[8}i {9](I=1, 2, ..., n){2].	
486 
c0af8c56-3d62-4748-b33f-3c7782a269fc	This is done by fitting a straight line through the given cloud of data points that explains the relationship between [1}Y{2] and [3}X{2] in the best possible way.	Dazu wird eine Gerade durch die gegebene Datenpunktwolke gelegt, die die Beziehung zwischen [1}Y{2] und [3}X{2] bestmöglich erklärt.	
487 
76cc2b49-1c65-4599-9950-a291eeeded4e	This is illustrated in the graph below, where the data points represent the observations in the training data and the line represents the regression line.	Zur Illustration zeigt die nachstehende Abbildung verschiedene Datenpunkte, die die Trainingsinstanzen bzw. Beobachtungen repräsentieren und die Modellierungsgrundlage der Regressionsgeraden bilden.	
488 
eb156941-21dd-4f64-91d2-1c51e2f0c0e9	These are used to predict the label [1}Y{2].	Letztere gibt für jede X-Variable das vorhergesagte Label [1}Y{2] an.	
489 
5610201a-e674-4907-b9af-0739f52b30ea	Linear Regression Model	Lineares Regressionsmodell	
490 
cea63bcb-07d1-4593-abe9-ae1f88acbf8d	Hofer (2021).	Hofer (2021).	
491 
bcfbbe1c-09c3-4d76-b583-0bf55828e64e	[1]	[1]	
492 
ce1558ee-279b-4515-976f-16d480aee3f4	﻿Formally, the linear regression model is defined as	Formal ist das lineare Regressionsmodell wie folgt definiert:	
493 
b38317cd-ec02-4f77-a662-f3a00a37d2c1	Y	Y	
494 
ec8a5b21-f8e4-4594-9f8c-f1792b42f341	=	=	
495 
a500e4fa-8a6e-4d8c-8eb2-5149c4e06629	ω	ω	
496 
83357869-59f7-4d5e-bd80-fdccae9f7008	0	0	
497 
1c6e31c8-c599-49c9-b10e-247b0eebd496	+	+	
498 
a4b69a8a-3f8e-40fc-a4c3-d286a35d78a2	∑	∑	
499 
2d2e0900-7039-4a8b-a164-d991b9213448	i	i	
500 
b126b4cf-211b-4d02-a320-e06b766094da	=	=	
501 
a62e22ad-3f9f-436f-9f50-1d2c5c966c96	1	1	
502 
873be205-9814-45e3-a48a-ea437dfaeb5d	n	n	
503 
05a4ce09-cb95-47e1-b0eb-aeb132fe63a2	ω	ω	
504 
0508f81f-396f-4491-ae16-b157ed5a987f	i	i	
505 
b2cf0589-c35d-4884-98cc-a437e9cb6b1d	X	X	
506 
1af07b32-135e-46d0-9a3f-002521a34f23	i	i	
507 
0e3ca61f-64e5-44ab-a0f0-35343a458658	where [1}X[2}i {3](I=1, 2, ..., n){4] refers to the [5}n{4] inputs or features, [7}ω[8}i{3]{4] the unknown weights of the inputs [11}X[12}i{3]{4]responsible for the slope of the regression line, and [15}ω[16}0{3]{4] the y-axis intercept.	Hier bezeichnet [1}X[2}i {3](I=1, 2, ..., n){4] die [5}n{4] Eingaben oder Inputs des Modells, [7}ω[8}i{3]{4] die unbekannten Gewichte der Eingaben [11}X[12}i{3]{4] (aus denen sich die Steigung der Regressionsgerade ergibt) und [15}ω[16}0{3]{4] den y-Achsenabschnitt.	
508 
e9b9fd11-7666-4137-be4d-43fd6ddce1a1	These latter two elements are determined during model training.	Von diesen werden die letzten beiden Größen	
509 
05fafeb6-fa30-406f-9cf0-208d9fdc80a3	After this formal introduction to the regression equation, we now address the question of how to determine the weights.	(d. h. der y-Achsenabschnitt und die Gewichte des Modells) während der Trainingsphase ermittelt.	
510 
f0424a96-4fb8-46d1-8869-265ab575079d	As noted previously, the weights (or coefficients) are determined during the training phase of the model, in which the goal is to minimize the presence of residuals.	Dabei besteht das Ziel darin, die auftretenden Residuen zu minimieren.	
511 
90dc6407-cec6-4d77-a6cd-732deca09ae3	A residual is the difference between an actual value and its predicted value, i.e., the vertical difference between the data point and the regression line.	Dieser letztere Begriff verweist in der numerischen Mathematik auf die Differenz zwischen einem tatsächlichen und einem vorhergesagten Y-Wert, d. h. auf den vertikalen Abstand zwischen dem Datenpunkt und der Regressionslinie.	
512 
34d38800-cbb8-438c-8c0b-6d6d07074dfb	If the predicted value is lower than the actual value, the residual is positive; if the predicted value is higher, the residual is negative; and if the prediction and the actual value are equal, the residual is zero.	Ist der vorhergesagte Wert niedriger als der tatsächliche Wert, ist das Residuum positiv, im umgekehrten Fall negativ; und wenn der vorhergesagte und der tatsächliche Wert gleich sind, ist das Residuum null.	
513 
95228ad4-8875-42df-be42-0008cc6ca21f	The definition of the residual [1}R[2}I{3]{4] of observation [5}I{4] results from the difference between the actual value of the label [7}y[8}en{3]{4] and its predicted value [11}q[12}i{3]{4] can be formally expressed as	Formal ist das Residuum [1}R[2}i{3]{4] der Beobachtung [5}i{4] als Differenz zwischen dem tatsächlichen Labelwert [7}y[8}en{3]{4] und dem vorhergesagten Wert [11}y[12}i{3]{4] definiert:	
514 
7433c78f-7f37-4fcc-8a0f-f5561d015141	R	R	
515 
2387490a-fdbb-4676-b9bf-7a45f82e3fb2	i	i	
516 
825bfaf2-c434-4f2d-acc2-41721646e52d	=	=	
517 
13a8b791-6204-430c-b22f-d9a6e85f6bce	y	y	
518 
a4a40ef1-d743-4b95-a50d-3e9d56e966d3	i	i	
519 
9dbab70e-2661-44ee-80ec-c5331fc4d7c1	-	-	
520 
0f6f0b02-2fc5-4cec-af8a-bb7cb984b18d	y	y	
521 
89e10d62-46fb-4629-848c-76496b4ee875	^	^	
522 
789d81ef-5045-4ba4-92cc-66063bdf460a	i	i	
523 
b5841283-ab02-41cd-ab1e-9edc4d0d188f	﻿The goal of the training phase is to adjust the individual coefficients of the regression line so that the loss function is minimized.	Obige Formel bildet die Grundlage für die Berechnung des absoluten Verlusts bei Verwendung des Regressionsmodells. Die auf ihr basierende Verlustfunktion lässt sich verwenden, um die optimalen Regressionskoeffizienten durch Lokalisierung des globalen Verlustminimums zu ermitteln.	
524 
336996ee-ac27-4213-a5d4-15a1f8d8111e	The loss function most commonly used in linear regression is called ordinary least squares (OLS), which minimizes the residual sum of squares (RSS), calculated as	Indessen handelt es sich bei dem für die lineare Regression am häufigsten eingesetzten Optimierungsverfahren um die Methode der kleinsten Quadrate (Ordinary Least Squares, OLS). Hier wird die Residuenquadratsumme (Residual Sum of Squares, RSS) minimiert, die sich folgendermaßen berechnet:	
525 
74243ef9-8784-44da-bf30-b9d077f65e72	R	R	
526 
13e10054-cb48-4b3e-8f19-b70e2e174318	S	S	
527 
9ab32047-647b-4f88-a6ee-418cd5f14182	S	S	
528 
0414e821-1036-4e8a-97c4-c2b137e3177d	=	=	
529 
c7c88590-51af-423c-8a6e-8383a1b18929	∑	∑	
530 
3699a1cf-8be8-4efa-8c87-9c69a653a251	i	i	
531 
ae4dd9ad-5398-42ab-aa13-2642cc2cd160	=	=	
532 
b7a2d865-6ca9-408e-8de0-8096cda3893f	1	1	
533 
81ddb7d9-412d-478c-80c6-6bd506ea6474	n	n	
534 
ba174a9a-d997-4c32-adcd-2219ba0d6dcc	R	R	
535 
79008897-bcea-46d5-9de4-7ee82d2a564d	i	i	
536 
4f8d80a6-fc2b-4544-8685-c828ad1bb347	2	2	
537 
99cc706e-701a-4e8b-8ade-655e704b88e7	﻿Squaring the residuals ensures both that positive and negative residuals do not cancel each other out and that larger deviations of the value predicted from the actual value are more significant than smaller deviations.	Die Quadrierung der Residuen sorgt dafür, dass sich positive und negative Residuen nicht gegenseitig aufheben und dass größere Abweichungen des vorhergesagten Wertes vom tatsächlichen Wert im Vergleich zu kleineren Abweichungen in überproportionalen Verlusten resultieren.	
538 
4a496093-a5ee-4efa-88c9-38c40dcf1b9d	This is illustrated in the figure below.	Die nachstehende Abbildung illustriert die Berechnung absoluter Residuen und der Residuenquadratsumme.	
539 
26e869cc-7307-430e-bed4-69579ff9d8ae	Plot of Residuals	Grafische Veranschaulichung der Residuen	
540 
3d976f43-a646-49df-b57d-c50c3db1dae0	Hofer (2021).	Hofer (2021).	
541 
3359a3f8-ccf4-40fa-b957-9994260db557	[1]	[1]	
542 
287366c8-a7bb-417d-b8cf-4b93fefd07fb	The charm of linear regression lies in the previously noted understandability of the model and the ease with which the results can be interpreted.	Der große Vorteil der linearen Regression liegt in der leichteren Verständlichkeit und Interpretierbarkeit der einschlägigen Modelle.	
543 
2100b8b4-f004-4859-986c-e503dae3ba95	If we use the derived regression line from the previous example, we can easily interpret the coefficients determined by OLS and thus the influence of the input features [1}X{2] on the label [3}Y{2]. In our simplified example, we had only one input feature [5}x[6}1{7]{2].	Wenn wir einen Blick auf die Regressionsgerade aus dem vorherigen Beispiel werfen, können wir die durch OLS ermittelten Koeffizienten und damit den geschätzten Einfluss der Eingabemerkmale [1}X{2] auf das Label [3}Y{2] unmittelbar erkennen. Erleichtert wird dies durch die Tatsache, dass wir es hier nur mit einem einzelnen Eingabemerkmal  [5}x[6}1{7]{2] zu tun haben.	
544 
a797074f-48b0-482d-80f1-e8b7e502a404	For the regression line, we obtained [1}Y=3x+50{2].	Die betreffende Funktionsgleichung lautet [1}Y=3x+50{2]	
545 
31ac00e1-9857-47b3-972d-50a051d5dbc5	Thus, for intercept [1}w[2}0{3]{4], OLS yielded [5}w[6}0{3]=50{4] and [9}w[10}1{3]=3{4] for the coefficient.	und beinhaltet folglich den y-Achsenabschnitt [5}w[6}0{3]=50{4] sowie den Koeffizienten [9}w[10}1{3]=3{4].	
546 
8f948f8e-6bef-40e7-ba66-913a30fbbf57	Here, the intercept [1}w[2}0{3]{4][5]is to be interpreted as a minimum value that label [6}Y{4] (to be predicted) does not fall below.	Dabei ist der y-Achsenabschnitt [1}w[2}0{3]{4][5]als Mindestwert zu interpretieren, den der vorhergesagte Labelwert [6}Y{4] nicht unterschreitet.	
547 
68389919-6f79-4778-9400-5faa6f0d5ba3	One example of this concept in action would be deducing the legal minimum salary when predicting monthly salaries that each observation (i.e., person) receives, regardless of the features.	Soll das Modell beispielsweise zur Vorhersage von Monatsgehältern genutzt werden, könnte der y-Achsenabschnitt den Wert des gesetzlichen Mindestlohns annehmen, der unabhängig von den Eigenschaften der Beobachtungen (d. h. den Merkmalen der erwerbstätigen Personen) gilt.	
548 
aec5b948-4ed8-4afa-92e0-cd15cbbfdf32	To give a second example, the intercept could be a minimum measurement when predicting an individual’s height that is exceeded by each observation.	Geht es dagegen um die Vorhersage der Körpergröße einer Person, ist der y-Achsenabschnitt als Untergrenze zu deuten, die bei keiner Beobachtung unterschritten wird.	
549 
bf0ce1c1-79fa-49b2-a31c-6fb11ffe5b2b	The coefficient [1}w[2}1{3]{4] indicates how much the label [5}Y{4] changes when the feature [7}x[8}1{3]{4] changes.	In all diesen Fällen gibt der Koeffizient [1}w[2}1{3]{4] jeweils an, wie stark sich der Label- bzw. Ausgabewert [5}Y{4] mit dem Merkmal [7}x[8}1{3]{4] ändert.	
550 
39d85600-a619-4143-954e-8f391ea15ffb	In our example, the regression line [1}Y=3x+50{2] results in a predicted value [3}Y=80 {2]for[5} x=10{2] and a prediction of [7}Y=110 {2]for[9} x=20{2].	So ergibt sich aus unserer Beispiel-Regressionsgleichung [1}Y=3x+50{2] ein Vorhersagewert von [3}Y=80 {2]für[5} x=10{2] und eine Vorhersage von [7}Y=110 {2]für[9} x=20{2].	
551 
bd5b7075-2ceb-423d-9693-35df29c8bcf1	Thus, increasing [1}x[2}1{3]{4] from 10 to 20 results in an increased prediction of [5}Y{4] by 40.	Das bedeutet: Wenn wir [1}x[2}1{3]{4] um 10 erhöhen, steigt der Vorhersagewert [5}Y{4] um 30.	
552 
76edb72e-718c-498a-9070-c160e1908e2a	Metric for Measuring the Prediction Performance of a Regression Model	Metriken zur Messung der Vorhersageleistung eines Regressionsmodells	
553 
d4452bb0-8ea8-4a70-816e-f0b47472ab37	To measure how good the predictions of a regression model are, a wide variety of methods can be used, i.e.,	Um nun die Qualität der Vorhersagen eines Regressionsmodells zu quantifizieren, steht uns eine Vielzahl von	
554 
fa2858b9-1b43-410d-88de-572c27d9e263	metrics	Metriken	
555 
f6395bd0-2de5-475f-b15b-b31c4795b237	Metric	Metrik	
556 
36639d79-3c59-4554-b6ea-c76d3ad067a2	A measure to evaluate the performance of machine learning model is called a metric.	Ein Maß zur Bewertung der Leistung eines maschinellen Lernmodells wird als Metrik bezeichnet.	
557 
77e9d2cf-3861-4978-9ba0-0635ebd5c554	.	zur Verfügung.	
558 
554f6db6-fe13-4e62-ac1c-bd1b140f0341	We will now focus on the three most popular metrics put into practice: the mean absolute error (MAE), the mean squared error (MSE), and the root mean squared error (RMSE).	Im Folgenden konzentrieren wir uns auf die drei in der Praxis am häufigsten verwendeten Kenngrößen: den mittleren absoluten Fehler , den mittleren quadratischen Fehler und die Wurzel des mittlere quadratischen Fehlers.	
559 
368520df-7ff1-49f0-b051-ff86a6dcd545	Mean absolute error (MAE)	Mittlerer absoluter Fehler (mean absolute error, MAE)	
560 
6cd7b2d3-8ade-43f6-958d-7d61d2b1c06f	﻿The MAE is the absolute difference between all predictions and the actual values (i.e., the absolute residuals), averaged over the number of predictions.	Der MAE-Wert ist die absolute Differenz zwischen allen Vorhersagen des Modells und den tatsächlichen Datenpunkten. Er berechnet sich aus der Summe der absoluten Residuen, gemittelt über die Anzahl der Vorhersagen.	
561 
1ffd7c13-a8fc-497b-801c-491b9a6360f2	This is illustrated in the following figure.	Dies wird in der folgenden Abbildung an einem Beispiel illustriert.	
562 
02536e37-05f1-4baa-b705-33024b84966f	Illustration of Mean Absolute Error	Veranschaulichung des mittleren absoluten Fehlers	
563 
20802832-2a48-4dd4-9e04-249fe5c867ab	Hofer (2021).	Hofer (2021).	
564 
dd0fe883-d267-44c6-ae22-552f4e0fc972	[1]	[1]	
565 
e250b4a5-5c4e-46f3-b578-ef98a04db8d0	﻿The residuals are taken to the absolute value here so that positive and negative deviations do not cancel each other out.	Hier werden die Residuen mithilfe der Betragsfunktion in absolute Werte umgewandelt, damit sich positive und negative Abweichungen nicht gegenseitig aufheben.	
566 
2d50c442-fe23-44a2-8160-fc44b9c40ea2	The MAE is helpful because it is reported in the variable unit being forecasted.	Hilfreich ist außerdem, dass der MAE in der Variableneinheit der Prognosen angegeben wird.	
567 
c4919c0c-55d2-422b-ae5d-7ed07f4ab1be	This allows us to make more precise statements, e.g., “The regression model can predict the sales figures with a mean deviation of 50 EUR.”	Dadurch können wir präzisere Aussagen treffen, wie etwa: "Das Regressionsmodell kann die Verkaufszahlen mit einer mittleren Abweichung von 50 EUR vorhersagen."	
568 
cab91ef2-2d9b-4817-930c-83ad2e1917b7	The compact, formal notation of MAE is as follows:	Die kompakte, formale Notation der MAE lautet wie folgt:	
569 
9d355a76-dabb-41e0-9916-e073ce103e6f	M	M	
570 
a95008d3-914d-4863-8701-e6125df5b151	A	A	
571 
f7f19518-7040-4f79-a3dd-c5e6e182a731	E	E	
572 
42a88c88-afac-4445-a17c-ac66a85fa2a9	=	=	
573 
3c25da9e-3eef-4c58-b10c-e25cb7acd836	1	1	
574 
e071c08b-6c68-4cd4-89cf-6cae2671d187	n	n	
575 
be676505-b13c-4ec9-a02d-cc387724dc3e	∑	∑	
576 
22c8ddf5-0d19-41fd-b5ba-341af274de0a	i	i	
577 
410599b7-1350-4365-95e7-633e5ca8a585	=	=	
578 
290666e8-7975-455d-9511-4d01e59c4333	1	1	
579 
535461bd-172a-4460-a43a-557e46ddd732	n	n	
580 
f26be4d3-ead1-48c4-bbc6-28db2e546ac8	|	|	
581 
25f25d87-58ca-492b-a0d9-a920027d942d	y	y	
582 
e4267348-424a-496e-b282-3f7b5097e07f	i	i	
583 
62951edd-b852-491a-8e50-e98c99a84dc8	-	-	
584 
7a35b36c-27c6-44b5-a918-2025908d964e	y	y	
585 
d9013b6e-19dd-4ec8-b7b2-b9b5fae1a958	^	^	
586 
945717e3-7bbc-42a7-9ab2-562ef2d7794f	i	i	
587 
598dafc8-7cde-4b5f-891b-4ef9270763d9	|	|	
588 
cde02451-7740-4cd6-9a0d-c2a9237ac13d	Following this expression, the MAE results from the summed absolute differences between the actual value [1}y[2}i{3]{4] and the predicted value [5}ŷ[6}i{3]{4] for each observation [9}i{4], averaged over all predicted observations [11}n{4]. When dividing by [13}n{4], we keep the error measure consistent as we move from a small collection of observations to a larger collection.	Laut dieser Formel ergibt sich der MAE aus der Summe der absoluten Differenzen zwischen dem tatsächlichen Wert [1}y[2}i{3]{4] und dem vorhergesagten Wert [5}ŷ[6}i{3]{4] für jede Beobachtung [9}i{4], gemittelt über alle vorhergesagten Beobachtungen [11}n{4]. Da wir also durch [13}n{4]teilen, bleibt das Fehlermaß konsistent, wenn wir von einer kleinen Beobachtungsdatensatz zu einem großen Beobachtungsdatensatz übergehen.	
589 
91c0c1d8-6bc6-4856-a19c-deada35e3ad3	This move alone would otherwise increase the error without taking the mean.	Ohne diese Normierung besteht die Gefahr, dass der gemessene Fehler mit jeder zusätzlichen Beobachtung steigt.	
590 
3a77a7d8-93cb-4bc6-b252-0464765f695c	Mean squared error (MSE)	Mittlerer quadratischer Fehler (engl. mean squared error, MSE)	
591 
b0e73a9a-34f3-4455-b59e-d9815b9fa64d	﻿The MSE differs from the MAE in only one aspect:	MSE und MAE unterscheiden sich in einem wichtigen Punkt:	
592 
d3cad0af-442f-4daa-a3f6-fcc8ce4c300e	The deviations between the actual and the predicted values are taken to the square and not the absolute value.	Während beim MAE die absoluten Abweichungen zwischen den tatsächlichen und den vorhergesagten Werten summiert und dann normiert werden, basiert der MSE auf der normierten Summe der quadrierten Abweichungswerte.	
593 
d0faa0cf-3669-4bdf-9c3c-f11ce5110e3c	In contrast to the MAE, its results cannot be interpreted in a stand-alone manner.	Das hat zur Folge, dass das Ergebnis im letzteren Fall nicht selbsterklärend ist,	
594 
943f244c-2935-4ef7-8492-746c9b5bad86	Here, the unit of the label is also squared, and statements such as “The regression model is able to predict the sales figures with a mean deviation of 50[1}2 {2]EUR” are not particularly useful.	weil mit den Abweichungen auch deren jeweilige Einheiten quadriert werden. Somit mündet die Auswertung des MSE in nicht besonders hilfreichen Aussagen wie "Das Regressionsmodell ist in der Lage, die Verkaufszahlen mit einer mittleren Abweichung von 50 EUR[1}2{2] vorherzusagen".	
595 
ee952fd6-d204-4f2a-840d-bb5104fbba86	Instead, the squaring provides another desired effect.	Andererseits hat die Quadrierung aber auch den durchaus erwünschten Effekt,	
596 
5cd1bb49-c2fc-4b11-a8c9-2eb1e7337c3d	While the MAE penalizes both smaller and larger deviations from the actual value in the same way, squaring the MSE makes deviations larger from the actual value more influential than smaller ones.	dass größere Abweichungen zu einem überproportionalen Anstieg des gemessenen Fehlers führen und damit weit stärkere Berücksichtigung finden als mehrere kleine Fehler.	
597 
6e13a6ae-dbf5-4427-ac74-d081e9f81b5d	The MSE, therefore, penalizes outliers more heavily than it does small deviations.	Deshalb ist der MSE weit weniger tolerant gegenüber Ausreißern als der MAE.	
598 
8ed78165-dcd3-4ee9-bacd-e263dc493a7a	This effect is shown in the figure below.	Diese besondere Eigenschaft des MSE wird in der nachstehenden Abbildung illustriert.	
599 
1d677413-2a4d-4bc2-a8de-f618200873b8	Illustration of Mean Squared Error	Veranschaulichung des mittleren quadratischen Fehlers	
600 
bc4b6677-55fb-4264-910c-2e588d6fd810	Hofer (2021).	Hofer (2021).	
601 
da13ae9e-3789-409f-9a91-df1294727218	[1]	[1]	
602 
ede351e2-0a8d-46c4-bbb5-42d779b2664e	﻿The compact, formal definition of MSE is	Die formale Definition des MSE lautet:	
603 
a1ced709-44bc-49bd-ae30-ee59aa1a8b5c	M	M	
604 
1d4e5b63-c8ad-4071-b601-964c0452d4ef	S	S	
605 
e3912f49-8929-4259-b584-67d843c0bcfc	E	E	
606 
7c4f883f-0fa3-408b-b6ff-98e10c472731	=	=	
607 
f1a51e1a-5a6e-4f2d-bd5d-6e69e1b1703a	1	1	
608 
53298311-4e01-4932-bafc-fc2c510c41fd	n	n	
609 
4d751647-14fe-4a56-b5a8-95946345eb93	∑	∑	
610 
37d8b53b-c82a-422f-9131-2e9223b8b1a2	i	i	
611 
c5f788e9-005b-4779-8686-8a5d85baeece	=	=	
612 
30eac747-8f7c-4358-99aa-b09b8f2ff1f5	1	1	
613 
4b9b0ad0-44f1-4286-aaf5-0fe51afbf4d8	n	n	
614 
9071b9c5-13df-46fc-bfe6-87e95d319724	(	(	
615 
f328c3a2-6358-4ef3-a4ee-c42fcfab0d55	y	y	
616 
6bccc046-fe1b-4fc4-9d2c-a1b3d6fa708e	i	i	
617 
3ef1db1b-afa1-4688-851b-1cf66b1d45d0	-	-	
618 
42dcc738-cdea-4b64-a37e-b1981b6c16aa	y	y	
619 
7f795e22-c0d4-47cb-b5c7-198d193b8928	^	^	
620 
a76c426c-1d82-4cf6-ad0b-7c253c8ecb9b	i	i	
621 
db8a8ac9-692a-424a-b7a1-5aa5be155c1d	)	)	
622 
bab7f7a0-b443-4fa4-b274-c5ddb144ced6	2	2	
623 
80eb5cf5-ec00-4cea-a83b-8c0ba58689a4	Following this expression, the MSE results from the summed squared differences between the actual value [1}y[2}en{3]{4] and the predicted value [5}q[6}i{3]{4] for each observation [9}I{4], averaged over all predicted observations [11}n{4].	Demnach ergibt sich der MSE aus den summierten quadrierten Differenzen zwischen dem tatsächlichen Wert [1}y[2}en{3]{4] und dem vorhergesagten Wert [5}q[6}i{3]{4] für jede Beobachtung [9}i{4], gemittelt über alle vorhergesagten Beobachtungen [11}n{4].	
624 
4681149b-060e-4c0f-acd8-162332446160	Root mean square error (RMSE)	Wurzel des mittleren quadratischen Fehlers (engl. root mean squared error, RMSE)	
625 
46f3ff47-a0d6-43aa-bc0a-3e258971de02	﻿The RMSE is the square root of the MSE, whereby the result is telegraphed in the unit of the label being predicted.	Das Akronym RMSE bezeichnet die Quadratwurzel aus dem MSE, die ein Ergebnis in der Einheit des vorhergesagten Labels liefert.	
626 
a67148d1-1c75-459c-9946-cb379fe900e8	This also provides increased interpretability as compared to the MSE alone, and the resulting scores yield smaller, more manageable numbers.	Diese Metrik ist nicht nur besser interpretierbar als der MSE, sondern nimmt außerdem vergleichsweise deutlich kleinere Werte an, die einfacher zu handhaben sind.	
627 
01b1cadb-5909-426b-ae4d-ca47956087f3	The compact, formal definition of RMSE is	Ihre formale Definition lautet:	
628 
e5ab324a-d7be-4fe3-810c-42711243d654	R	R	
629 
83d88aff-b9c1-488b-bacc-3f458773e390	M	M	
630 
3cf34eca-7961-4db2-a64e-df255a94c12a	S	S	
631 
49561ce5-a93f-4d62-9863-114a208ebd30	E	E	
632 
0e4a1b91-1532-45bb-a578-213e38d98545	=	=	
633 
2df8a54f-4252-4a77-9d46-35aada268191	1	1	
634 
d5b884c2-f78b-42be-bd14-3c5c87d231d7	n	n	
635 
c333f7cb-7efd-49ab-9b2b-432e74ab9ef7	∑	∑	
636 
c1efd455-e05c-4f13-84f9-6e56d5fe078a	i	i	
637 
0992725f-b34b-440e-8096-d460efb76d15	=	=	
638 
c0cbacbf-3e8b-4921-a3ab-877be51ccd1e	1	1	
639 
0bed1349-a77c-4771-9601-11a0a6aa129e	n	n	
640 
f7e651c1-1953-4a6d-b1b6-5b6e5b3b6ed5	(	(	
641 
fbd675c8-f705-444d-a7ac-968f53c62655	y	y	
642 
1fbfb684-7f5b-4d80-a85f-bda8677e7fa7	i	i	
643 
eb73e1b2-a418-4074-9908-601bc1e82482	-	-	
644 
e1428c38-7849-48a6-adb7-3eaa00303c6f	y	y	
645 
07ec9dc3-c49c-4946-af72-989ead322d17	^	^	
646 
ea1690d9-0108-4296-b632-44f79d5dd401	i	i	
647 
ead69ab3-f3ae-4e1e-b030-201c89d3faf5	)	)	
648 
970d0cd3-448d-4c02-a900-ac87db8a883b	2	2	
649 
82f50193-24aa-4f0d-ab2c-e10e62e648ec	Following this expression, the RMSE results from the root of the summed squared differences between the actual value [1}y[2}en{3]{4]and the predicted value [5}q[6}i{3]{4] for each observation [9}I{4], averaged over all predicted observations [11}n{4]. The RMSE is one of the most common measures against errors when evaluating machine learning models.	Somit ergibt sich die RMSE aus der Wurzel der summierten quadrierten Differenzen zwischen dem tatsächlichen Wert [1}y[2}en{3]{4]und dem vorhergesagten Wert [5}q[6}i{3]{4] für jede Beobachtung [9}i{4], gemittelt über alle vorhergesagten Beobachtungen [11}n{4]. Dieses Fehlermaß zählt zu den gängigsten Methoden der Leistungsbewertung maschineller Lernmodelle.	
650 
b776edd6-2d99-4ead-8092-f3431bf10184	For presentation purposes, the MAE is often also reported due to its easy comprehensibility.	In entsprechenden Präsentationen wird oft zusätzlich der ebenfalls leicht verständliche MAE angegeben.	
651 
02d6e13f-c069-4a80-ac2f-2ac6cf219400	Implementation	Implementierung in Python	
652 
7bf97be6-b70e-4214-8480-df89594dab6d	When developing machine learning solutions, it is common to use libraries, which means that not every algorithm and procedure used has to be programmed by scratch itself.	Bei der Entwicklung von maschinellen Lernmodellen werden üblicherweise Bibliotheken verwendet, damit die Verantwortlichen nicht jeden Algorithmus und jede Funktion von Grund auf neu programmieren müssen.	
653 
dcee6b0b-ae10-48bd-a02c-fe364277f1f0	One of the most popular Python libraries for developing machine learning solutions is scikit-learn.	Besonders beliebt ist der Einsatz der Python-Bibliothek scikit-learn,	
654 
9891c249-ba56-4414-9313-55fb5e1be69e	This library supports several operations natively, like classification, regression, clustering, and includes a wide variety of machine learning algorithms.	die von Haus aus Operationen wie Klassifizierung, Regression und Clustering unterstützt und eine Vielzahl von Algorithmen für das maschinelle Lernen umfasst.	
655 
0a5af9cd-5452-4071-a2e8-05cd845a20a7	In the following, we will show a sample implementation of linear regression using the scikit-learn library.	Im Folgenden wird die praktische Anwendung der linearen Regression unter Verwendung der Bibliothek scikit-learn an einem Beispiel demonstriert.	
656 
e1e12d3d-8107-4acd-aff4-6a75c1fd439e	In addition, we will show how the results of the trained and applied model can be visualized using the matplotlib library.	Dabei erfahren wir auch, wie wir die Ergebnisse des trainierten und angewandten Modells mit Hilfe der matplotlib-Bibliothek visualisieren können.	
657 
a7bfafac-29c1-47bd-b09a-4257a7cf72dd	Let’s choose a dataset of person’s professional experience in years and the task of predicting the salary based on this information.	Als Ausgangspunkt dient uns hier ein Datensatz, der Angaben über die Berufserfahrung und das Gehalt erwerbstätiger Personen enthält und uns die Erstellung eines Vorhersagemodells für Jahresgehälter ermöglichen soll.	
658 
277f4740-b1db-4f5f-88e9-782d75406997	We typically start by importing the libraries we want to use.	Außerdem müssen wir im ersten Schritt die Bibliotheken importieren, die wir später verwenden wollen.	
659 
1de5c1e5-413c-40f6-95c5-0a3e6a5614d2	We first import the matplotlib library to visualize our results and then the pandas library, probably the most popular Python library when it comes to loading, preparing, and storing data.	Dabei handelt es sich zum einem um die matplotlib-Bibliothek, die wir zur Visualisierung unserer Ergebnisse nutzen, zum anderen um die pandas-Bibliothek, die besonders häufig für Aufgaben rund um das Laden, die Aufbereitung und die Speicherung von Daten eingesetzt wird.	
660 
e29e26b3-4f48-451b-a195-d1949e1ae458	Code	Code	
661 
6824d41d-7c26-46c9-8377-1b1a5b170040	import pandas as pd[1]import matplotlib.pyplot as plt	import pandas as pd[1]import matplotlib.pyplot as plt	
662 
9f968a2b-1256-4817-a90c-3b898b873566	﻿Next, we import the dataset and divide it to input features X and labels Y.	Als Nächstes importieren wir den Datensatz und unterteilen ihn in Eingabemerkmale X und Labels Y.	
663 
f262f95e-bd2c-40af-822a-439a59548762	Code	Code	
664 
960dce5b-e2c6-470e-8ccf-92e4d8f76dae	Dataset = pd.read_csv('Salary_Data.csv')[1]X_train = dataset.drop(columns=\[‘Salary’])[1]y_train = dataset.iloc\[:,1].values	Dataset = pd.read_csv('Salary_Data.csv')[1]X_train = dataset.drop(columns=\[‘Salary’])[1]y_train = dataset.iloc\[:,1].values	
665 
693e5d3f-f12a-4f83-8957-a065c81b2c4a	Now we import an instance of linear regression using the scikit-learn library and train the model based features X_train and labels y_train of the training dataset using the [1}fit(){2] method.	Anschließend importieren wir die Funktion LinearRegression der scikit-learn-Bibliothek und erstellen ein lineares Regressionsmodell. Dann nutzen wir die Methode [1}fit(){2], um unser Modell auf der Grundlage der Merkmale X_train sowie der Labels y_train des Trainingsdatensatzes zu trainieren.	
666 
29ffbe94-5736-4415-a357-dcdb0e954820	Code	Code	
667 
a9921ed5-e8c9-4467-860b-8c29b865c800	from sklearn.linear_model import LinearRegression[1]regressor=LinearRegression()[1]regressor.fit(X_train,y_train)	from sklearn.linear_model import LinearRegression[1]regressor=LinearRegression()[1]regressor.fit(X_train,y_train)	
668 
00c5cfb5-2d8e-4da8-9797-32341911c281	Next, we plot the data and the trained model using the matplotlib library.	Zum Abschluss erstellen wir mithilfe der matplotlib-Bibliothek ein Diagramm der Trainingsdaten und des auf ihnen basierenden Modells.	
669 
00fd3e22-bbc4-4eac-8b67-2aca64ce2c35	Code	Code	
670 
1ac54639-9076-46bf-8b93-0044d48846f1	plt.scatter(X_train,y_train,color='red')[1]plt.plot(X_train,regressor.predict(X_train),)[1]plt.title('Salary vs Experience(Train set)')[1]plt.xlabel('Experience in years')[1]plt.ylabel('Salary')	plt.scatter(X_train,y_train,color='red')[1]plt.plot(X_train,regressor.predict(X_train),)[1]plt.title('Salary vs Experience(Train set)')[1]plt.xlabel('Experience in years')[1]plt.ylabel('Salary')	
671 
a89713f2-9dc2-4560-8541-c9772fe904ce	In the resulting plot, we can now look at the data points and the trained model and easily see the positive correlation between the professional experience in years and the salary at a glance.	in dieser Abbildung der Datenpunkte und des trainierten Modells lässt sich die positive Korrelation zwischen der Berufserfahrung und dem Gehalt auf einen Blick erkennen.	
672 
1af7a3ba-2f02-4e13-82ef-89a4e5fa7ce7	Linear Regression Plot Generated by the Matplotlib Library	Mit der Matplotlib-Bibliothek erzeugtes lineares Regressionsdiagramm	
673 
05204610-c716-41f5-917f-0bb3cfc5ffc9	Hofer (2021).	Hofer (2021).	
674 
858110d2-3f9b-428e-9dc4-98dfc63fa7fd	[1]	[1]	
675 
6b0e3241-cbe9-4942-bb34-21a05a4ec0de	﻿The intercept and the value of the coefficient of the trained model can also be shown.	Des Weiteren können wir veranlassen, dass der y-Achsenabschnitt und der Steigungskoeffizient des trainierten Modells ausgegeben werden.	
676 
f9fe6659-61cd-4370-b225-4d78d71635d9	Code	Code	
677 
396ff06d-d2b7-4762-abbf-f122a519eb5c	print(regressor.intercept_, regressor.coef_)	print(regressor.intercept_, regressor.coef_)	
678 
dd768487-487e-4b14-91b7-829845798972	As explained before, this regression coefficient can be interpreted.	Wie bereits erläutert, lässt sich dieser Steigungs- bzw. Regressionskoeffizient auf einfache Weise interpretieren.	
679 
9c09b882-972b-4dd1-abf1-316d2f4b7eab	If we assume that the coefficient is 1000, then one more year of professional experience would increase the salary by 1000 units according to the model.	Beträgt er beispielsweise 1000, so bedeutet dies, dass das Gehalt – unserem Modell zufolge – mit jedem zusätzlichen Jahr Berufserfahrung um 1000 Währungseinheiten wächst.	
680 
4c4569e1-2876-4b98-9d8c-5b489e059402	The trained model can now be used to generate predictions for new unseen data.	Auf dieser Grundlage ist es möglich, Vorhersagen für neue, beim Modelltraining nicht berücksichtigte Daten zu erstellen.	
681 
16d24378-27ce-4750-a119-76560df2b305	We can do this with the [1}predict() {2]method.	Zu diesem Zweck verwenden wir die Methode [1}predict() {2].	
682 
809438c4-e889-45ee-8a8c-03f49b6b5074	Code	Code	
683 
e460b49b-f3e2-46a4-bb75-e97bbc3e4597	y_pred = regressor.predict(X_newdata)	y_pred = regressor.predict(X_newdata)	
684 
cc70c718-5cb3-4342-9f22-c713b71ce627	Self-Check Questions	Fragen zur Selbstkontrolle	
685 
88ce1f3d-750a-498b-befe-4e8ab6a963b3	Please list two synonyms for the inputs ([1}X{2]) of a linear regression model.	Nennen Sie zwei Synonyme für die Inputs ([1}X{2]) eines linearen Regressionsmodells.	
686 
2367f01e-957b-42f8-bcfe-7fe7cd737bd8	X variables, independent variables, predictors, and features	X-Variablen, unabhängige Variablen, Prädiktoren, Merkmale	
687 
931ae08c-e5dc-478f-8775-4ca4827a1574	Lasso and Ridge Regularization	Lasso und Ridge-Regularisierung	
688 
47b34f2b-1cef-46f8-b714-92b98856075e	Lasso and Ridge Regularization	Lasso und Ridge-Regularisierung	
689 
ca6ad6b5-02f8-4469-9055-f2338b2ea5d0	Linear models reflect a simple, effective approach to building predictive models.	Lineare Vorhersagemodelle lassen sich einfach und effektiv erstellen.	
690 
068dfcb1-f3c3-4423-9feb-2fdbcba5685e	Nevertheless, they have their limitations: on datasets with a high number of features, they tend to lose their generalizability and run into overfitting.	Dennoch haben sie ihre Grenzen: Bei Datensätzen mit einer großen Anzahl von Merkmalen verlieren sie tendenziell ihre Verallgemeinerbarkeit und neigen zur Überanpassung.	
691 
328e02eb-1c35-42db-af8c-2933e4f897a1	For such datasets, one should make use of regularization methods, which aim to prevent overfitting in predictive models.	In solchen Fällen sollten Regularisierungsmethoden verwendet werden, um ein Overfitting des betreffenden Vorhersagemodells zu verhindern.	
692 
b071bb07-4c80-46c8-9d09-a162d7fc3b6c	In this section, we will take a closer look at the most popular regularization techniques for reducing model complexity through the restriction or regulation of estimated coefficients: ridge regression, lasso regression, and elastic net (a combination of the first two).	Dieser Abschnitt präsentiert die gängigsten Techniken zur Verringerung der Modellkomplexität durch Einschränkung oder Regularisierung der geschätzten Koeffizienten: Ridge-Regression, Lasso-Regression und Elastic-Net (eine Kombination der ersten beiden).	
693 
29ad34ef-ed5e-467e-8b7b-4e6cc4d18ca4	Ridge Regression	Ridge-Regression	
694 
ddf8f4cf-e057-4f37-9b9b-5db6d50dabd6	﻿Ridge regression regularizes the linear regression, putting constraints on the coefficients by adding a penalty term	Ridge-Regression ist ein Regularisierungsverfahren für lineare Regressionsmodelle. Es schränkt die Zahl der Modellkoeffizienten ein, indem es die Verlustfunktion um den Strafterm	
695 
be6e1df4-e668-43e7-a8d4-95e5684b3af7	α	α	
696 
46aac17d-7741-41c7-99fa-903f47209cdc	∑	∑	
697 
1b395a3b-d7a9-4d58-80d6-6702dd9257c3	i	i	
698 
be68c580-ef4f-4e8b-b16e-81da87c1c575	=	=	
699 
982dd848-038d-4f72-8628-6c63c9374f23	1	1	
700 
b6345659-5640-4396-aa12-fa95a5952801	n	n	
701 
7e999c00-8739-48b2-8896-8d6681612eb3	ω	ω	
702 
38d92572-d9e6-4686-a91b-0d52c35719e0	i	i	
703 
401225f4-434a-4546-925b-4bc2fedaa585	2	2	
704 
6631c545-013b-4401-8165-32167484bd5e	to the loss function.	erweitert.	
705 
731b65d8-aa1a-421d-8728-9ff285099270	We introduce a penalty for larger numbers of regression coefficients [1}ω[2}i{3]{4], i.e., the more input variables we incorporate into our model, the higher the penalty.	Dieser Term wächst mit der Zahl der Regressionskoeffizienten [1}ω[2}i{3]{4] und erreicht folglich umso höhere Werte, je mehr Inputvariablen wir in unser Modell einbeziehen.	
706 
b2bdb23c-76d4-440a-b767-59881f155575	By doing this, we render uninformative variables superfluous, as they are unable to compensate for the loss that they introduce.	Das macht die Berücksichtigung irrelevanter Variablen unattraktiv, da diese Größen nicht in der Lage sind, den durch sie verursachten Verlust zu kompensieren.	
707 
f1124311-5d36-4653-a71d-a39273040175	Therefore, it is only worth inputting informative variables.	Nur bei relevanten Variablen wird der Verlust durch eine genauere Passung des Modells ausgeglichen. 	
708 
aebe4189-7ac2-4fa6-ac6f-406da366a867	The loss function takes the form	Die entsprechende Verlustfunktion hat die Form:	
709 
8313a75f-bff9-4d43-bc2e-e62aad00e675	R	R	
710 
c2fd62d1-3e01-44c3-a38c-f5f705677ff6	S	S	
711 
266027ab-9ca5-439b-97ab-37ef1e02ff19	S	S	
712 
ed8c607d-272b-485e-bef4-7c2c2a534e5d	+	+	
713 
838d9c21-0e94-400f-834a-0142658ed21a	α	α	
714 
76ea00c4-ba6b-4212-af0b-27f25f5b0228	∑	∑	
715 
00b44bba-d09e-434f-882c-dfe698f26427	i	i	
716 
2e24c0f2-89c2-40da-af07-75eb4d532d84	=	=	
717 
1dc8423c-8057-43c7-a545-7b5cc059a607	1	1	
718 
649c91b3-f701-4078-ae8a-0f5a6c7564e0	n	n	
719 
ba127e0b-0728-4b36-b9ea-6857f4efc3ce	ω	ω	
720 
50270684-af29-4569-b06c-60f138323428	i	i	
721 
802d29c2-fe8f-430d-b9c7-8a96dff7c696	2	2	
722 
51427c0c-5a8b-4851-917e-d00921e67c78	The penalty size, also known as the L2	Dabei kann die Größe der Strafe, auch bekannt als L2-	
723 
fee90e33-3678-48de-a5b9-3dac52e4bbfb	norm	Norm	
724 
143ea42d-229e-4c93-ad8e-f86e8dff9e92	Norm	Norm	
725 
cc4312cd-5191-48cd-a1e1-47e9e4d8e079	A norm is a mapping that assigns a number to a mathematical object (e.g., a vector) intended to describe its size.	Eine Norm ist eine Abbildung, die einem mathematischen Objekt (z. B. einem Vektor) eine Zahl zuordnet, die seine Größe beschreiben soll.	
726 
a3ae69ae-c41d-4290-a11f-0b4b3540c78a	, can take on a wide range of values and is controlled by the tuning parameter[1} α{2].	, verschiedenste Werte annehmen und durch den Tuningparameter[1} α{2] gesteuert werden.	
727 
5c4fb17b-3270-43c6-aecc-08a8a6661d99	When [1}α=0{2], there is no effect.	Für [1}α=0{2] ist der Strafterm null, was jeglichen Regularisierungseffekt verhindert;	
728 
bcd3c2ac-848d-43cf-8380-391dfe6d4649	Our loss function equals the normal OLS regression loss function; as [1}α→∞{2][3},{4] the penalty becomes large and forces the coefficients towards zero.	 in diesem Fall entspricht unsere Verlustfunktion der normalen OLS-Regressionsverlustfunktion. Für [1}α→∞{2][3},{4] erreicht der Strafterm dagegen große Werte und zwingt die Koeffizienten gegen null.	
729 
9a63408d-efae-4a47-96a6-aa704f4bfcdb	However, we should note that the coefficients here do not actually take the value of zero, meaning that all features have a contributory role in the prediction result.	Allerdings ist hier zu beachten, dass die einzelnen Koeffizienten nie den Wert null erreichen, was bedeutet, dass alle Merkmale einen Beitrag zum Vorhersageergebnis leisten.	
730 
e9c34607-43af-4985-bff1-e198f88a0779	Ridge regression is particularly useful for	Somit eignet sich die Ridge-Regression besonders für	
731 
ce696608-f994-4922-9dda-3d9336521c58	multicollinear	multikollineare	
732 
fe5a460c-68ca-4b18-b4b3-27a6dc3cfe9c	Multicollinearity	Multikollinearität	
733 
cdb57ed9-5f96-444f-84c8-df58af57537a	When a feature is highly correlated with one or more of the other features in a regression model, we speak of multicollinearity.	Wenn ein Merkmal stark mit einem oder mehreren anderen Merkmalen in einem Regressionsmodell korreliert, spricht man von Multikollinearität.	
734 
ff6d914e-586c-4a7f-8fb7-b689b35fe659	datasets comprising a vast number of features, many of which we assume are relevant and, consequently, should be accounted for by the model.	Datensätze mit einer großen Anzahl von Merkmalen, von denen viele mutmaßlich relevant sind und folglich vom Modell berücksichtigt werden sollten.	
735 
e5a9b6f8-e8d4-4896-abb7-0e69df12bd32	Essentially, ridge regression pushes correlated features toward each other, thereby preventing one from being strongly positive and the other strongly negative.	Das Regularisierungsverfahren sorgt zum einen für eine Angleichung der Koeffizienten korrelierter Merkmale und verhindert so, dass einige von ihnen stark positive und andere stark negative Ausprägungen annehmen.	
736 
771583fe-4ae2-43f0-bb23-388bcff87bd6	It also pushes many of the less important features toward zero, which helps to highlight any important signals in the data (Boehmke & Greenwell, 2019).	Zum anderen werden viele der Koeffizienten weniger wichtiger Merkmale auf Werte gegen Null gedrückt, was die Erkennung wichtiger Einflussgrößen in den Daten erleichtert (Boehmke & Greenwell, 2019).	
737 
55c53bb4-df12-4d81-bac8-98f6e8385b61	Application	Implementierung in Python	
738 
f93c089d-cc96-468d-8d85-b8826799aec9	Using scikit-learn, an open source Python library, we can apply ridge regression very easily, here with a value of [1}α=1{2].	Mit der quelloffenen Python-Bibliothek scikit-learn können wir die Ridge-Regression auf einfache Weise implementieren, hier mit einem Wert von [1}α=1{2].	
739 
c850f693-d1a8-44fc-85dc-cfd1bf6ac321	We can then train the model with the help of the [1}fit(){2] method.	Das Training des so erstellten Modells erfolgt dann mithilfe der Methode [1}fit(){2].	
740 
d28b5c6b-107d-4878-a4f8-96cd84e67a4f	Lasso Regression	Lasso-Regression	
741 
15628ef5-0729-40ef-b968-a8b27c5a0f0a	﻿Lasso (least absolute shrinkage and selection operator) regression is an alternative regularization method.	Lasso-Regression (least absolute shrinkage and selection operator) ist eine alternative Regularisierungsmethode,	
742 
f4f808eb-9805-418a-836c-12ac3feefdee	It differs from ridge regression only in that the L2 norm is exchanged for the L1 norm.	die sich von der Ridge-Regression lediglich dadurch unterscheidet, dass die L2-Norm gegen die L1-Norm ausgetauscht wird.	
743 
bbf20c2e-c09a-4f34-aab6-0a409fc46335	We do this by introducing a penalty term	Dementsprechend lautet der Strafterm in diesem Fall	
744 
281d78fd-f606-4919-bbe5-3b4066ed9048	α	α	
745 
c35dfe55-c820-4b55-8660-d0b9ae1d1592	∑	∑	
746 
6c022d19-6f25-46b3-8595-e098b6c0aa79	i	i	
747 
b74f54ea-133f-46ed-8480-b391d80abfa6	=	=	
748 
587f5701-3143-491c-95f9-acc857da3aa3	1	1	
749 
e5b41f52-303f-464c-8db6-9ff6cd0aff7b	n	n	
750 
b7ea53a8-31ed-4582-afac-004e8f629f5d	|	|	
751 
770e0173-95c8-4f38-98b7-8fba6b5611e5	ω	ω	
752 
895ebc0a-12ad-43e8-aad8-dd15bc383aa7	i	i	
753 
1a1a4206-d763-4d50-9031-81331ef23ef9	|	|	
754 
93006b0b-dba9-45fe-8f30-a074ea9fe011	to the loss function so that it is defined as follows:	woraus sich folgende Verlustfunktion ergibt:	
755 
612acddd-f7a9-44d8-be95-5230f96fdc3b	R	R	
756 
5a92637f-78ff-4260-ab5b-808424f30388	S	S	
757 
1f297416-9aa3-4bf0-9c58-68d13676b926	S	S	
758 
c674df13-5904-45ff-8e2d-8997a84bba5e	+	+	
759 
0ffa4e64-b365-4005-82b9-58dedc5a6956	α	α	
760 
a6631eb3-27f8-4bb2-8986-15576d812164	∑	∑	
761 
3dcee2fe-f1a6-42dc-ba54-510e511cb48e	i	i	
762 
ab6a274a-53d8-4afb-b21f-7916149b4b26	=	=	
763 
cf4fccb7-0ff9-4816-9830-ea1647126ba8	1	1	
764 
77969b35-1c3e-478a-a47f-d7176c2112dd	n	n	
765 
ffa60827-ec6a-4929-9684-16266c176334	|	|	
766 
97ab734b-36d0-4850-97aa-fa200eead845	ω	ω	
767 
90185a0b-3e43-48dd-9133-5b6ea1b401cf	i	i	
768 
b8c6523f-a8be-448b-a1dc-6ca5e1f98e61	|	|	
769 
cdbec228-0df6-456a-9c55-372de68f9e84	﻿The lasso penalty has the ability to push coefficients to zero, thereby canceling out the influence certain features would have on the model.	Dabei ist zu beachten, dass die Lasso-Regularisierung einzelne Koeffizienten auf null drücken kann, wodurch der Einfluss bestimmter Merkmale auf das Modell aufgehoben wird.	
770 
11c2a941-3f36-49be-bee8-b931460c4024	This is in stark contrast to the ridge penalty, which can only push the variables closer to zero.	Hier besteht ein deutlicher Unterschied zur Ridge-Regularisierung, bei der sich die Koeffizienzen irrelevanter Variablen lediglich der Null annähern.	
771 
eccb9cb5-1a24-4ca9-9f83-7da3d26233df	Consequently, lasso regression can also be used for feature selection (Boehmke & Greenwell, 2019).	Aufgrund dieser besonderen Eigenschaft lässt sich die Lasso-Regression auch für die Merkmalsauswahl verwenden (Boehmke & Greenwell, 2019).	
772 
150a394b-210b-4308-8a75-fa8240eb1d5e	Application	Implementierung in Python	
773 
cebc6e11-be6a-4b4e-821b-3d84b6036143	﻿Lasso regression can be imported, initialized, and trained just as easily as ridge regression using the scikit-learn library.	Mithilfe der scikit-learn-Bibliothek lässt sich die Lasso-Regression ebenso einfach importieren, initialisieren und trainieren wie die Ridge-Regression:	
774 
f5a97104-3e21-4a4b-9d51-f5861a690cda	Code	Code	
775 
abbe3c3d-1a21-4d95-8c5b-2ca449e25455	from sklearn.linear_model import Lasso[1]lasso_reg = Lasso(alpha=0.1)[1]lasso_reg.fit(X_train,y_train)	from sklearn.linear_model import Lasso[1]lasso_reg = Lasso(alpha=0.1)[1]lasso_reg.fit(X_train,y_train)	
776 
b3ef75ce-6a10-45f8-86e0-01ec57b3a2f8	Elastic Net	Elastic-Net-Regression	
777 
1b93c0f5-e32c-448d-9c83-a750b3f48205	Elastic net acts as a middle ground between the ridge and lasso regression concepts, uniting the advantages of both into one method.	Elastic-Net-Regression bildet einen Kompromiss zwischen Ridge- und Lasso-Regression und vereint die Vorteile beider Verfahren.	
778 
15f3b9be-ff29-483f-b48a-53b754583f0f	It selects important coefficients, as does lasso regression, and is effective in handling correlated features, as is ridge regression.	Das bedeutet konkret, dass diese Regularisierungsmethode (genau wie die Lasso-Regression) die Koeffizienten wichtiger Merkmale hervorhebt und (genau wie die Ridge-Regression) zur Handhabung korrelierter Merkmale geeignet ist.	
779 
2b8ed7e8-077a-4c71-9486-1129a19485ab	The penalty term used here	Ihr Strafterm	
780 
1415c7b6-60bb-47dc-bf30-2374e59cdbf4	α	α	
781 
05350364-9c38-4099-ba8d-f0ef37ad3ec4	∑	∑	
782 
2374f635-f167-448d-b197-e6d215552934	i	i	
783 
05f17098-82d0-471f-8638-7bbb405aa469	=	=	
784 
3adeae1c-47a1-4ca9-9a67-e55c5a23d6cd	1	1	
785 
eeaf9fee-0723-4a7a-8574-971edbe5385b	n	n	
786 
416e12b2-ff90-4066-af37-416439c22a62	(	(	
787 
f17d92eb-3bfa-4f44-886c-ab1e1c2f3947	r	r	
788 
c502b241-baf1-4078-a2ee-aa251e9688b2	ω	ω	
789 
6910636c-0c4f-4291-9723-8755f04a02a5	i	i	
790 
c02c8a03-5bdf-4cc3-a68c-9084d01c944f	2	2	
791 
1c22abe1-7522-47b1-b9dc-f04cce37e2da	+	+	
792 
5d7cba25-fbfe-4232-a142-e89ff0c4c246	(	(	
793 
c2085544-ba66-4fe1-9045-1d2f7e3f4379	1	1	
794 
14c95431-fe2f-415d-9b07-63fe8967f321	-	-	
795 
aad9ed30-2941-45e3-97ad-68db2f160cfb	r	r	
796 
0ec52706-f245-461c-bc54-e872f8bea8fc	)	)	
797 
4d0dc2e3-58f7-450d-9680-1659e11bd584	|	|	
798 
c1bcb097-14de-46de-9d27-67dcceb33ae0	ω	ω	
799 
9b6eeac8-0e3b-4c6e-afd6-087fb74a43d2	i	i	
800 
8cb0c012-136d-4be6-972c-e891d9d2f2f8	|	|	
801 
95a542a2-14d0-4480-bcd6-8420221d7892	)	)	
802 
cfb370bc-37d8-4fe6-86d3-be1817070424	is a combination of the ridge and lasso penalty terms.	ist eine Kombination aus L1- und L2-Norm.	
803 
7f863f7e-a689-4825-bb7e-145670a22818	When [1}r=0,{2] it represents lasso regression; when [3}r=1{2], it represents ridge regression.	Bei [1}r=0{2] handelt es sich um eine Lasso-Regression, bei [3}r=1{2]um eine Ridge-Regression.	
804 
01451b52-4fbf-4196-942e-63e33a3ed9c2	For all values [1}0<r<1{2], elastic net affects both the ridge and the lasso regression penalties.	Für alle Werte [1}0<r<1{2] fließt sowohl der Lasso-Strafterm als auch der Ridge-Strafterm in das Ergebnis ein.	
805 
4af75c48-e595-4232-9e12-6b5f9839891f	The larger the value of [1}r{2], the more weight is given to the ridge regression term.	Dabei gilt: Je größer der Wert von [1}r{2]ist, desto mehr Gewicht wird dem Ridge-Regressionsterm beigemessen.	
806 
ced86941-c989-44d1-89e9-f528131608bf	Application	Implementierung in Python	
807 
a9055973-5630-4909-aae3-3cd8fdcfdc4f	Much like ridge and lasso regression, elastic net can be applied using scikit-learn.	Elastic Net lässt sich ähnlich wie die Ridge- und Lasso-Regression mit den Funktionen aus scikit-learn implementieren.	
808 
f99e3540-3a39-414e-a58c-a4b66a6c5567	During initialization, the [1}l1_ratio{2] parameter must be defined with a value in the range [3}0 ≤ l1_ratio ≤ 1{2], analogous to the explanation of the parameter [5}r {2]above.	Allerdings muss hier bei der Initialisierung ein Wert für den Parameter [1}l1_ratio{2] aus dem Bereich [3}0 ≤ l1_ratio ≤ 1{2] angegeben werden. Dadurch wird das Gewicht des Lasso-Strafterms relativ zum Ridge-Strafterm festgelegt (was dem Kehrwert des obigen Parameters [5}r {2] entspricht).	
809 
34bcb794-0ace-4b82-a8d4-276892f1c980	If [1}l1_ratio=0{2] is set, the penalty is a pure ridge penalty.	Das bedeutet: Wenn wir [1}l1_ratio=0{2] wählen, ist der Elastic-Net-Strafterm ein reiner Ridge-Strafterm.	
810 
2b46342a-6691-4120-843a-381adfe09a93	If [1}l1_ratio=1{2] is set, the penalty is a pure lasso penalty.	Wählen wir dagegen [1}l1_ratio=1{2], erhalten wir einen reinen Lasso-Strafterm.	
811 
5b3ed797-39b2-499b-ab63-1e64178643aa	If values [1}0 < l1_ratio < 1{2] are chosen, the penalty is an appropriately weighted combination of both.	Für Werte [1}0 < l1_ratio < 1{2] ist der Strafterm eine entsprechend gewichtete Kombination aus L1- und L2-Norm.	
812 
c24d15f5-55e0-4178-b18a-8c6be880dd62	Code	Code	
813 
9832cd4b-4813-44cb-8682-3feece64dcdc	From sklearn.linear_model import ElasticNet[1]elastic_net = ElasticNet(alpha=0.1, l1_ratio=0.5)[1]elastic_net.fit(X_train,y_train)	From sklearn.linear_model import ElasticNet[1]elastic_net = ElasticNet(alpha=0.1, l1_ratio=0.5)[1]elastic_net.fit(X_train,y_train)	
814 
9cee2a44-8d50-4778-af15-3d589a23a4b7	We will now examine the regression coefficients that result from adding an artificially generated [1}YearsExp/100{2] feature to the dataset.	Vor diesem Hintergrund untersuchen wir nun die Regressionskoeffizienten, die sich nach Hinzufügung des willkürlich gewählten Merkmals [1}YearsExp/100{2] zu unserem Datensatz ergeben,	
815 
3ccba726-f4ed-44a5-947c-6d4d4ff67941	Linear, ridge, and lasso regression, as well as elastic net, will be considered.	wenn wir die vier hier vorgestellten Regressionsverfahren anwenden: lineare Regression, Ridge-Regression, Lasso-Regression und Elastic-Net-Regression.	
816 
bf0913cd-ca8e-4669-92ae-c32773585bd2	[1}YearsExp/100{2] is highly correlated with [3}YearsExp{2] and does not introduce any information when used for regression.	Das ist aufschlussreich, weil [1}YearsExp/100{2] offensichtlich stark mit [3}YearsExp{2] korreliert und somit keine Informationen liefert, die für unser Regressionsmodell zusätzlich relevant sind.	
817 
85b72ffa-b161-4e61-84ac-d914a7ea556d	Code	Code	
818 
82f46f0e-434c-4bfa-8749-5826719ae039	dataset\['YearsExp/100'] = dataset\['YearsExperience']/100	dataset\['YearsExp/100'] = dataset\['YearsExperience']/100	
819 
1c8156d5-c267-4c33-8bac-7e1b442e639b	When we initialize the models with the parameterizations seen earlier and train them on the artificially expanded dataset, we obtain the following coefficients using the [1}coef_{2] method.	Wenn wir die Modelle mit den oben genannten Parameterwerten initialisieren und auf der Grundlage unseres künstlich erweiterten Datensatzes trainieren, erhalten wir mit der Methode [1}coef_{2] die folgenden Koeffizienten:	
820 
39d4d285-56d8-4224-ba4f-65f6d46892d8	Coefficients of Features “YearsExperience” and “YearsExp/100”	Koeffizienten der Merkmale "YearsExperience" und "YearsExp/100"	
821 
14befbfa-ef0f-461f-8d75-335a4bea71b0	Hofer (2021).	Hofer (2021).	
822 
9f7d6ea4-34a4-476c-b92a-b071bc95b24d	Model	Modell	
823 
3914e831-0b6e-4fba-990b-ec00e06de08e	Coefficients	Koeffizienten	
824 
cfe0128d-3629-4f62-ba4f-b9e2890f6951	0	0	
825 
1cdef681-f4c8-446d-bfa0-2e9f9ccd5e60	Linear regression	Lineare Regression	
826 
b5f4d075-25c6-49b5-b3c2-1bc4f3cd4dcc	\[9449.017419713111, 94.4901741971311]	\[9449.017419713111, 94.4901741971311]	
827 
9f0cb2af-b1cc-462c-960f-3dc43d2bb1e2	1	1	
828 
3fb4eae1-2e0e-4c36-ba9f-71837bbe6c55	Ridge regression	Ridge-Regression	
829 
5e0445e0-c8b6-46e4-b72d-f1b486daaede	\[9444.97381418553, 94.4497381418512]	\[9444.97381418553, 94.4497381418512]	
830 
d0fb530c-b647-45ae-af75-2febe499fd5f	2	2	
831 
7bf3c8e0-5c9f-4fea-a86f-ffee4a2cf02d	Lasso regression	Lasso-Regression	
832 
ed13af8f-ac6d-49c3-a99b-b24c0a495649	\[9449.94947649658, 0.0]	\[9449.94947649658, 0.0]	
833 
2fc42b5f-e936-4c4f-809c-dc14f5412b36	3	3	
834 
fc165f87-0769-4de5-be33-754f745c17c6	Elastic net (l1_ratio=0.01)	Elastic-Net-Regression (l1_ratio=0.01)	
835 
37454561-a653-4135-8385-3c3862064293	\[9330.37945693112, 93.29375135668731]	\[9330.37945693112, 93.29375135668731]	
836 
9dd1de6f-9542-4115-8f2b-66e245dc3c42	4	4	
837 
1a8a7f38-ffa1-4467-83e5-0a36f843e05f	Elastic net ([1}1l_ratio=0.99{2])	Elastic-Net-Regression ([1}1l_ratio=0.99{2])	
838 
f4dd1aed-b945-4619-b8f4-d77195d76c46	\[9448.735918738957, 0.0]	\[9448.735918738957, 0.0]	
839 
dec5faed-fae0-4a61-ae04-02799d1a1c8d	We note that lasso regression has set the coefficient of the [1}YearsExp/100{2] feature to zero because of its correlation with the [3}YearsExperience{2] feature.	Hier wird ersichtlich, dass die Lasso-Regression den Koeffizienten des Merkmals [1}YearsExp/100{2] aufgrund seiner Korrelation mit dem Merkmal [3}YearsExperience{2] auf null reduziert hat.	
840 
44829e75-df3f-4986-adc9-f05d987c3a28	From the console output for the two elastic net models, we can see two very clear results: the model for an [1}l1_ratio{2] approaching zero nears ridge regression; and, an [3}l1_ratio{2] approaching one nears lasso regression.	Zugleich zeigt die Konsolenausgabe für die beiden Elastic-Net-Modelle eine klare Zweiteilung: Das Modell mit einem[1}l1_ratio{2]-Wert nahe null nähert sich der Ridge-Regression, während das Modell mit einer [3}l1_ratio{2] nahe eins fast mit der Lasso-Regression identisch ist.	
841 
75442f82-8ee3-4afb-b49d-02f02e8f36c3	Self-Check Questions	Fragen zur Selbstkontrolle	
842 
ef73f605-8217-49a1-8818-e9a1f29ccb4c	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
843 
d8dd7206-f032-4c56-ac1b-8c1a0decd9ae	Ridge regression, lasso regression, and elastic net can be applied using the	Ridge-Regression, Lasso-Regression und Elastic-Net-Regression können mit der Python-Bibliothek	
844 
67bb1aa6-7674-4c13-a2e9-bef5c2adae87	Python library.	implementiert werden.	
845 
c3b9e8be-6d2a-40c7-8a64-99cb5efba9a3	scikit-learn	scikit-learn	
846 
6cec23a1-b4be-4715-9233-6679a94ac65f	Generalized Linear Models	Verallgemeinerte lineare Modelle	
847 
d59451ff-6d77-4115-bc01-54ddc92a6e4d	Generalized Linear Models	Verallgemeinerte lineare Modelle	
848 
e3e6ee47-223a-4dbd-91de-b9919f64b8d7	Generalized linear models (GLMs) are a category of expanded linear regression models.	Die Klasse der verallgemeinerten linearen Modelle (VLM) stellt eine Erweiterung des klassischen linearen Regressionsmodells dar.	
849 
e9b7d7b9-78df-42fe-afff-795a5ec65c8b	Linear regression, as previously described, attempts to predict a continuous variable using the linear combination of descriptive features.	Wie wir bereits wissen, geht es bei der linearen Regression darum, die Werte einer kontinuierlichen Variablen anhand einer Linearkombination von beschreibenden Merkmalen vorherzusagen.	
850 
327f4d41-a299-42c6-90ac-c06c1bac664f	Linear regression is built upon the following basic assumptions (Hardin & Hilbe, 2007):	Das Verfahren beruht auf den folgenden Grundannahmen (Hardin & Hilbe, 2007):	
851 
0a094105-5f9d-4953-9689-931fee0d08e5	There is a linear relationship between the target variable [1}Y{2] and the features [3}X{2].	Es besteht ein linearer Zusammenhang zwischen der Zielvariablen [1}Y{2] und den Merkmalen [3}X{2].	
852 
33097515-e0a7-4056-999b-341fae1c2540	The residuals of the model are normally distributed.	Die Residuen des Modells sind normalverteilt.	
853 
6904778c-24e8-47b2-9de2-e1e6f56ead9f	The residuals have a constant variance, i.e., there is homoscedasticity.	Die Residuen haben eine konstante Varianz, d. h. es besteht Homoskedastizität.	
854 
63af32e1-6caf-4188-9b38-7fbaf4de8ee0	If, for example, the dependencies in the data do not follow a linear relationship, or the other assumptions made concerning linear regressions are not true, applying linear regression would simply yield poor predictions.	Hieraus ergeben sich eine Reihe von Einschränkungen. Wenn die Abhängigkeiten in den Daten keiner linearen Beziehung folgen oder andere Grundannahmen der linearen Regression nicht erfüllt sind, führt dies zwangsläufig zu einer schlechten Vorhersageleistung des Modells.	
855 
931d6d92-ce2f-4ee9-af3d-de090a5253ed	GLMs address these shortcomings.	VLM sollen diese Unzulänglichkeiten beheben.	
856 
81d105a9-c518-46cb-bb08-78e75e8c3123	Just like the linear models they generalize, the purpose of GLMs is to specify the relationship between the target variable [1}Y{2] and some number of features [3}X{2]. General models are developed by relaxing the assumptions of linear models.	Sie gleichen linearen Modellen insofern, als auch ihr Zweck darin besteht, die Beziehung zwischen einer Zielvariablen [1}Y{2] und einer Reihe von Merkmalen [3}X{2]zu beschreiben. Zugleich lockern sie die strikten Annahmen klassischer linearer Modelle,	
857 
f79fc143-7e52-4716-903b-1c43350bfdd3	By restructuring the relationship between the linear predictor and the fit, we can “linearize” relationships thought to be strictly nonlinear (Hardin & Hilbe, 2007).	indem sie die Beziehung zwischen dem linearen Prädiktor und der Anpassung neu strukturieren und dadurch Beziehungen "linearisieren", die als streng nichtlinear gelten (Hardin & Hilbe, 2007).	
858 
e7362bd6-e58f-40f7-953e-c8b14b494028	GLMs all essentially comprise the following three components:	Zu diesem Zweck umfassen alle VLM die folgenden Kernkomponenten:	
859 
dfb6ef5b-6151-4f51-96ac-07053e98c1b3	A linear predictor [1}η[2}i {3]= ω[4}0{3] + ω[6}1{3] x[8}1i {3]+ … + ω[10}p{3] x[12}pi{3]{14]	Einen linearen Prädiktor [1}η[2}i {3]= ω[4}0{3] + ω[6}1{3] x[8}1i {3]+ ... + ω[10}p{3] x[12}pi{3]{14]	
860 
08ee26c6-18e5-4374-97b7-240b87dff6a7	A probability distribution that generates the target variable [1}Y{2]	Eine Wahrscheinlichkeitsverteilung der Zielvariablen [1}Y{2]	
861 
b820cb8b-06d8-473a-b63d-f5cd05922f5c	A monotone differentiable	Eine monotone differenzierbare	
862 
5ca1ec54-b1c8-4d6b-b126-faa23d74d683	link function	Verknüpfungsfunktion	
863 
588dff13-acb9-4e13-b898-52773090092b	Link function	Verknüpfungsfunktion	
864 
01f459fb-3c35-474e-834a-2a10ee8384fe	The link function specifies the link between the linear predictor and the probability distribution.	Die Verknüpfungsfunktion gibt die Verbindung zwischen dem linearen Prädiktor und der Wahrscheinlichkeitsverteilung an.	
865 
027746cb-4054-40e4-9813-cb7258018615	[1}g(µ[2}i{3]) = η[4}i{3]{6] describing how the mean depends on the linear predictor [7}η[8}i.{3]{6]	[1}g(µ[2}i{3]) = η[4}i{3]{6], die den Zusammenhang zwischen dem Mittelwert und dem linearen Prädiktor [7}η[8}i.{3]{6] beschreibt.	
866 
2c1d4734-94e1-4c9f-9014-ecb3f1124701	Because the link function is selected separately from the random component (i.e., the probability distribution), we have greater flexibility in our modeling.	Das verschafft uns mehr Flexibilität bei der Modellierung, weil die Verknüpfungsfunktion getrennt von der Zufallskomponente (d. h. der Wahrscheinlichkeitsverteilung) ausgewählt wird.	
867 
6654af10-74bc-461c-ad89-560e0ec5bb5f	By introducing the link function and the	Durch die Einführung einer Verknüpfungsfunktion und die Aufnahme	
868 
b5f46061-f79b-4f86-8839-16cc4dff6b5c	additive effects	additiver Effekte	
869 
cc3c0318-0f9e-4754-b589-f882ee897ba5	Additive effect	Additiver Effekt	
870 
c17b52e7-b3b4-4b87-8333-975d678fb083	This is a joint effect of two or more features on the target variable.	Hier handelt es sich um einen gemeinsamen Effekt von zwei oder mehr Merkmalen auf die Zielvariable.	
871 
6eb797e5-2a3c-49ae-8306-3c51592eb930	it can represent, there is no need for a constant variance.	ist eine konstante Varianz nicht erforderlich.	
872 
d118fb71-274d-4601-bcdf-32956bc3f51a	By specifying these three GLM components, a wide variety of models can be built in a flexible way, i.e., to represent the underlying distribution and dependency structures of the provided data.	Das eröffnet uns die Möglichkeit, die Verteilungs- und Abhängigkeitsstrukturen der gegebenen Daten präzise in unserem Modell abzubilden, indem wir die enormen Handlungsspielräume bei der Wahl der drei VLM-Komponenten flexibel nutzen.	
873 
617ff3f9-73f4-4545-97a9-ce456f625e70	Let us illustrate the concept of GLM with an example from Kida (2019).	Dieser Prozess wird im Folgenden anhand eines Beispiels aus Kida (2019) veranschaulicht.	
874 
08674873-76e2-4af3-8d00-7fcb2362d332	GLMs in action	Auswahl, Nutzung und Implementierung eines VLMs	
875 
964bc69c-6333-4d25-a694-8b0fc653879c	Suppose we want to predict the number of defective products [1}Y{2] with a sensor value of the producing machine as explanatory feature [3}X{2]. The scatter plot can be seen in the following figure.	In diesem Beispiel möchten wir die Anzahl der fehlerhaften Produkte [1}Y{2] einer Fertigungsmaschine vorhersagen, indem wir einen von dieser Maschine ausgegebenen Sensorwert als erklärendes Merkmal [3}X{2] nutzen. Die folgende Abbildung zeigt ein Streudiagramm der betreffenden Datenpunkte.	
876 
144e5dbb-2a5e-4d80-aacd-4d6a81a276fd	Number of Defective Products	Anzahl der mangelhaften Produkte	
877 
d451852c-0553-4c30-bb85-b0813e596a60	Hofer (2021).	Hofer (2021).	
878 
206a57d2-b98e-44e9-9cb9-f2e90b035668	[1]	[1]	
879 
7879a4d0-c0cd-4713-9332-b4719343bc70	Applying linear regression to such data would be problematic for two reasons in particular.	Wie unschwer einzusehen ist, wäre die Anwendung der linearen Regression auf solche Daten vor allem aus zwei Gründen problematisch.	
880 
fae80e96-8fed-4f5f-aaf1-1888a780a4f2	First, there is an obvious nonlinear relationship between the number of defective devices [1}Y{2] and the sensor values (i.e., there is non-constant variance).	Erstens besteht offensichtlich eine nichtlineare Beziehung zwischen der Anzahl der defekten Geräte [1}Y{2] und den Sensorwerten (was sich bei Verwendung eines linearen Regressionsmodells in einer nicht konstanten Varianz der Residuen manifestieren würde).	
881 
954ad641-b279-45ce-b3a0-d8904cd53b70	Second, [1}Y{2] only takes on discrete values (as opposed to continuous ones).	Zweitens nimmt [1}Y{2] nur diskrete Werte an (und ist somit keine kontinuierliche Größe).	
882 
dbadd616-e350-475a-a706-1abf0c2df801	It would be much more appropriate here to use the Poisson regression, another type of GLM.	Unter diesen Bedingungen ist es sinnvoll, ein anderes VLM zu nutzen und auf die Poisson-Regression auszuweichen.	
883 
e03780c2-5890-4486-8ded-2e9b8984ec7c	With Poisson regression, our GLM is formulated as follows:	Letztere stellt sich in Formelschreibweise folgendermaßen dar:	
884 
d5f3c1e8-490c-4b77-ba9f-a6b5a6c634bc	l	l	
885 
2b287fa6-0b7e-4c39-a32d-75047b52ce0b	n	n	
886 
176ed06e-3537-47d2-bb16-d137350f2b51	η	η	
887 
44db1e84-66c6-432c-b03e-7bd369c7353a	i	i	
888 
172798b0-5896-48c2-bc59-7a213489a5f2	=	=	
889 
e572ba3d-2db9-4c9a-8a56-16921f7a0b60	ω	ω	
890 
9ece3fbc-4715-452d-9a61-132e762fcd79	0	0	
891 
ac7f142b-6481-412f-83b7-c6c0a9d19506	+	+	
892 
99636c48-faaa-4c16-aee6-ec12f7295e4d	ω	ω	
893 
dd2bd907-e1f9-4299-b636-26f9408e24b8	1	1	
894 
c9280dc6-64bc-465f-9cb2-9802c388b318	x	x	
895 
e2f652e9-cba2-44fa-a311-018b50f47274	1	1	
896 
1850e303-c883-4ef4-98b3-4acb09df1831	i	i	
897 
42a9d9bc-7b95-4ed3-ab38-67e64fa23d91	y	y	
898 
e621420d-5f22-485f-940f-f47987cffeec	i	i	
899 
3eaba89e-5b06-474e-8a13-06231c7ac3b1	~	~	
900 
5d40dc60-2f58-4536-9266-4191168a6bf2	P	P	
901 
d0a0bbb0-cd31-4fd6-92af-98ad09a1a896	o	o	
902 
092b2272-33c8-441e-948f-4d0c576cb812	i	i	
903 
0dd1f9d0-d348-4135-bba7-2a77452f7f1f	s	s	
904 
c3d64d49-29d5-4da5-aeec-6beb1aec543e	s	s	
905 
3957dadc-e1c0-4d61-87f8-387d6e51b675	o	o	
906 
10f56113-681d-45e3-b592-1b4a2fc017e2	n	n	
907 
76559449-354e-491b-a6b6-c2c92c2dbd81	(	(	
908 
e6eaf42b-e83f-4d0d-a15b-55bbc6e26b9f	η	η	
909 
1dee203b-818a-4e7d-9268-38abcc221806	i	i	
910 
482ef3f4-7828-486c-ae72-7398042734b5	)	)	
911 
1610b2eb-73ce-4de0-b474-a37661df6c30	The first expression describes our linear predictor and expresses the link function in the form of the logarithm, which is typical in such scenarios.	Von diesen beiden Ausdrücken beschreibt der erste unseren linearen Prädiktor, der in Szenarien wie dem unseren typischerweise auf einer logarithmischen Verknüpfungsfunktion basiert.	
912 
b8ece4ee-0e4f-4f03-adb6-ea65a68b16ba	The second expression describes our probability distribution, which expresses that our target variable [1}Y{2] follows a	Der zweite Ausdruck verweist auf die Annahme, dass unsere Zielvariable [1}Y{2] einer	
913 
e8b8832b-0c3d-4362-8526-593a7c1cf0f8	Poisson distribution	Poisson-Verteilung	
914 
fc9721cd-962a-4517-b039-32e2cbe9bc53	Poisson distribution	Poisson-Verteilung	
915 
03ff0030-56b5-4da3-8f6c-d93f697075d3	The Poisson distribution is used to model the count of events that occur in a given time interval.	Die Poisson-Verteilung wird verwendet, um die Anzahl der Ereignisse zu modellieren, die in einem bestimmten Zeitintervall auftreten.	
916 
82120f42-1986-4f3e-9131-ca7be753c24c	.	folgt.	
917 
b9461b4b-04f5-4a6d-9917-017132e34842	According to Kida (2019), the Poisson distribution has only one parameter [1}η{2], which specifies both the mean and the standard deviation.	Nach Kida (2019) hat eine solche Verteilung nur einen Parameter [1}η{2], der sowohl den Mittelwert als auch die Standardabweichung spezifiziert.	
918 
92bfb4c9-6d1f-4def-a1d2-02e4ed9c53eb	Thus, the larger the mean, the larger the standard deviation, as depicted in the following figure.	Dabei gilt: Je größer der Mittelwert, desto größer ist die Standardabweichung, wie in der folgenden Abbildung dargestellt.	
919 
06609e29-39d3-417f-917a-84c3a51df61f	The Poisson Distribution with Different Values for η	Poisson-Verteilung mit verschiedenen Werten für η	
920 
e1c4b315-d315-4625-ade3-a7add3ba9edb	Hofer (2021), based on Kida (2019).	Hofer (2021), basierend auf Kida (2019).	
921 
91f32278-70e5-4334-ad63-a5bf2a10e1f7	[1]	[1]	
922 
d34e606d-5eaa-4232-af3d-65054b174dc3	To derive predictions, we resolve the expression shown previously to [1}η[2}i{3]{4] by using the inverse of the logarithm, i.e., the exponential function.	Um aus unserem Poisson-Modell Vorhersagen ableiten zu können, lösen wir die Gleichung aus dem ersten obigen Ausdruck nach [1}η[2}i{3]{4] auf, indem wir die Umkehrfunktion des Logarithmus, d. h. die Exponentialfunktion, verwenden.	
923 
08578aa0-d9bc-4095-bd8b-8988727ba9c1	This gives us the following equation:	Dadurch erhalten wir:	
924 
56a7044d-2305-4f76-a5f1-fbf31fb33f70	η	η	
925 
c9a735bd-52b4-4a36-a9eb-4e86193abdf6	i	i	
926 
a4088278-a662-4977-854f-989adc9b7d4d	=	=	
927 
dbbed536-bcaa-488f-af03-68e0c3494c3e	exp	exp	
928 
d7c33852-18c5-463b-84a9-4ca832efeb9e	⁡	⁡	
929 
2ce20cc6-75b6-4597-bc19-a35e1d41b04b	(	(	
930 
b9bfe522-767d-4075-b6fb-20517b1e9a14	ω	ω	
931 
4c4af58a-5483-4f51-a5de-786f48bc1586	0	0	
932 
7ddf1b09-fe2c-4d94-a0c3-5f96e7ea9642	+	+	
933 
88e6a69f-7e32-445a-8789-e3001db61501	ω	ω	
934 
7766e76e-9e24-4bfe-8ac4-aab7095d76df	1	1	
935 
b65a2f23-1469-4b22-9312-74375a2070e5	x	x	
936 
dc444233-0a90-41c0-af9e-9568d0945579	1	1	
937 
427f88ec-b54c-4514-aa50-03a4dcc14ea7	i	i	
938 
ce77aaeb-0289-4ba7-957b-47654a578946	)	)	
939 
28674565-a554-4219-a3fd-da47300aa446	With an increase in inputs [1}X{2], the predicted outputs [3}Y{2] increase exponentially.	Hier steigt der Ausgabe- bzw. Vorhersagewert [1}Y{2] exponentiell mit dem Eingabewert [3}X{2].	
940 
5e7cb068-6c53-4330-b493-8b0f8de4b47c	Consequently, this means that the model is capable of representing a nonlinear relationship between the target variable [1}Y{2] and the descriptive features [3}X{2]. When we apply Poisson regression to our data, the result appears as depicted in the figure below.	Das bedeutet, dass das Modell in der Lage ist, eine nichtlineare Beziehung zwischen der Zielvariablen [1}Y{2] und den beschreibenden Merkmalen [3}X{2] abzubilden. Die folgende Abbildung zeigt das Ergebnis der Poisson-Regression für unsere Beispieldaten.	
941 
4e1058cf-a7f2-474d-a897-e4d625d52978	The red curve represents the predictions generated by Poisson regression.	Dabei repräsentiert die rote Kurve die Vorhersagen unseres Modells.	
942 
3ae8e898-5910-4274-8556-f4ab71c9ab08	Poisson Regression Applied to Our Data	Poisson-Regression, angewandt auf die Beispieldaten	
943 
544eec8b-b627-4761-816a-75338d6c5560	Hofer (2021).	Hofer (2021).	
944 
43477d32-3bbf-4240-91c8-a00f509f3904	[1]	[1]	
945 
2ce56f41-c0e0-41a9-8aba-c299945cafb4	The mathematics required for this process is somewhat elaborate and beyond the scope of this unit.	Da die für die Berechnung der entsprechenden Modellparameter erforderliche Mathematik recht aufwendig ist und den Rahmen dieser Lektion sprengen würde,	
946 
159830a7-9d4d-4dcf-97b9-dcbcecabcfd9	The interested reader is referred to McCulloch and Searle (2001, p. 135).	werden interessierte Leser:innen an dieser Stelle auf McCulloch und Searle (2001, S. 135) verwiesen.	
947 
c3d613bb-1ef2-4b5e-a30a-ed686384fb5c	At this point, let us remember that, in GLMs, we do not estimate [1}y{2] directly with a linear combination of features[3} x{2].	Zugleich sei daran erinnert, dass wir bei Verwendung eines VLM den Wert von [1}y{2] nicht direkt mit einer Linearkombination der Merkmale [3}x{2] schätzen.	
948 
5cdb745a-0491-4514-844e-07555e8d3d86	Rather, we estimate the mean of the link function by this linear combination.	Stattdessen nutzen wir die fragliche Linearkombination zur Schätzung des Mittelwerts der Verknüpfungsfunktion.	
949 
c2e55286-1cc2-4853-8746-a9dd8a350110	The link function connects the linear combination of features [1}x{2] with any distribution of the exponential family (not only the normal distribution), from which we assume the values of [3}y{2] to be predicted are drawn.	Diese Verknüpfungsfunktion verbindet die Linearkombination der Merkmale [1}x{2] mit einer Normalverteilung oder einer beliebigen anderen Verteilung der Exponentialfamilie, von der wir annehmen, dass aus ihr die vorherzusagenden [3}y{2]-Werte gezogen werden.	
950 
adb13a19-db0d-4177-9643-fd76e6e737ad	In other words, we push a link function and probability distribution between our [1}y{2] and [3}x {2]values.	Mit anderen Worten: Wir modellieren den Zusammenhang zwischen unseren [1}y{2]- und [3}x {2]-Werten indirekt – über eine Verknüpfungsfunktion und Wahrscheinlichkeitsverteilung.	
951 
76fa31fd-f7f1-486b-8d7e-17f3ce07ab0a	As we do that, our data need not fulfill the somewhat strict assumptions made by regular linear regression.	Dadurch stellen wir sicher, dass unsere Daten nicht die etwas rigiden Annahmen der normalen linearen Regression erfüllen müssen.	
952 
d0bad82a-a3b6-4c7c-9f00-09653d2acea1	It is notable that, in regular linear regression, we have the choice between the ordinary least squares (OLS) and maximum likelihood methods for estimating the regression coefficients.	Des Weiteren ist diesem Zusammenhang erwähnenswert, dass wir bei der regulären linearen Regression sowohl die Methode der kleinsten Quadrate (OLS) als auch die Maximum-Likelihood-Methode zur Schätzung der Regressionskoeffizienten wählen können.	
953 
f2230943-1e5c-4ef2-8f33-a9c02a9e91ef	By comparison, in GLMs, we only use maximum likelihood for this estimation.	Im Unterschied dazu verwenden wir bei einem VLM ausschließlich die Maximum-Likelihood-Methode als Schätzverfahren.	
954 
f2b8f23a-a86a-47ba-810b-70bc83e609e6	In Python, GLMs can be used with the help of the statsmodels library.	Die Implementierung verallgemeinerter linearer Modelle ist in Python mithilfe der Bibliothek statsmodels möglich.	
955 
3f4a5165-5d59-40bf-92ba-759db0c83443	The code for initializing and fitting the Poisson regression is as follows:	Der entsprechende Programmcode für die Initialisierung und Anpassung der Poisson-Regression lautet dann wie folgt:	
956 
e8497f06-dd04-42f5-9c33-9c5c7b0e3e74	Code	Code	
957 
2f875714-b160-40df-871e-22aeb34a3177	import statsmodels.api as sm[1]exog, endog = sm.add_constant(x), y[1]mod = sm.GLM(endog, exog, [1]       family=sm.families.Poisson([1]            link=sm.families.links.log))[1]res = mod.fit()	import statsmodels.api as sm[1]exog, endog = sm.add_constant(x), y[1]mod = sm.GLM(endog, exog, [1]       family=sm.families.Poisson([1]            link=sm.families.links.log))[1]res = mod.fit()	
958 
d834de85-75e1-441d-9592-b375fc1c6472	The terms endog (endogenous) and exog (exogenous) describe the target variable [1}Y{2] and the features [3}X{2], respectively,[5]in the statsmodels library.	Die hier enthaltenen Schlüsselworte endog (für endogen) und exog (für exogen) verweisen in der statsmodels-Bibliothek auf die Zielvariable [1}Y{2] bzw. auf die erklärenden Merkmale [3}X{2].[5]	
959 
e1e07d63-95b2-4a57-916b-78195bf24ec7	We use the [1}add_constant{2] method now to add our constant [3}ω[4}0{5]{2] for the intercept.	Außerdem verwenden wir die Methode [1}add_constant{2], um dem Modell unsere Konstante [3}ω[4}0{5]{2] für den y-Achsenabschnitt hinzuzufügen;	
960 
b510114d-18b0-4c42-93ba-389be71e68c6	Otherwise, our linear predictor would be in the form of [1}ω[2}1{3] x[4}1i{3]{6].	andernfalls hätte unser linearer Prädiktor die Form [1}ω[2}1{3] x[4}1i{3]{6].	
961 
c6814f10-f18b-4d29-b4db-0a6ff60e41b2	We should note that the link function does not have to be specified here, as it acts as the default logarithm for Poisson regression.	Im Übrigen fällt auf, dass die Verknüpfungsfunktion in unserem Beispiel nicht spezifiziert werden muss, da der Logarithmus die Standardeinstellung für die Poisson-Regression ist.	
962 
fb6e7a35-b2d7-426d-acac-b2576d918355	Link functions	Verknüpfungsfunktionen	
963 
ebb5e7ac-c162-494d-a7b5-6525b8ebc333	﻿Just as we used the logarithm as the link function for Poisson distribution, the link functions of other probability functions can also be taken by default.	Neben der logarithmischen Verknüpfungsfunktion für die Poisson-Verteilung gibt es noch weitere standardmäßige Verknüpfungsfunktionen für andere Wahrscheinlichkeitsverteilungen.	
964 
62769b5f-58b1-4e1d-9f94-912d23375158	Here are a few of the common probability functions and the link function typically used with each (Ray, 2017).	Die folgende Tabelle listet einige gängige Wahrscheinlichkeitsfunktionen und die üblicherweise für sie verwendeten Verknüpfungsfunktionen auf (Ray, 2017).	
965 
37bfd7ae-122a-4ee2-b1f6-bb3a4be8ce4b	Some Probability Distributions and Their Link Functions	Gängige Wahrscheinlichkeitsverteilungen und ihre Verknüpfungsfunktionen	
966 
c934c928-462d-46f1-8e71-e0edbf154b8a	Hofer (2021).	Hofer (2021).	
967 
0a76938c-b72b-40b4-a5e0-da0dafd65279	Distribution	Verteilung	
968 
8f2ef346-6c2e-4bdf-b4cd-2ed4cd6bb609	Use	Verwendung	
969 
8d2a1a95-c488-4278-98e1-f89f186a9902	Notation	Notation	
970 
f5fc1c00-8a95-4b23-b16b-da89226edea4	Link function	Verknüpfungsfunktion	
971 
45f97fad-a34b-447e-8155-0258ffd1a0f8	Gaussian	Gaußverteilung	
972 
f8c51f71-76e1-4759-91fc-bb27279f626e	Linear repose	Lineare Antwort	
973 
0c02a23f-edd5-4737-8b2c-eadd7cea4367	N(μ,σ2)	N(μ,σ2)	
974 
ad655172-8576-4c1b-bce1-1e0e07fb1007	“Identity”: [1}μ{2]	"Identität": [1}μ{2]	
975 
7a0290af-ddfa-4572-9010-b6665fd3a805	Poisson	Poisson-Verteilung	
976 
920c7c2a-1048-497a-886e-d1e4159412a6	Counts of events	Zählung von Ereignissen	
977 
8452b089-ad10-4c19-b7f5-4931c14ebb4a	N(μ)	N(μ)	
978 
78615633-ec15-4fe3-a411-5a2d2a89d6ac	Log(μ)	Log(μ)	
979 
73745947-f237-4921-9619-33ed9871f8d9	Bernoulli	Bernoulli-Verteilung	
980 
54202463-c8f6-450f-8bd4-fa8cae636079	Outcome of single	Ergebnis einzelner	
981 
d62c8555-1c86-429a-92a3-1e5078718240	yes/no occurrences	Ja/Nein-Ereignisse	
982 
1053f7bf-a27b-4248-bc2d-bc4d3460f9dd	Bern(p)	Ber(p)	
983 
469319e1-138b-4565-9038-391d4f1875b0	Logit(μ)	Logit(μ)	
984 
988c2457-17f7-4588-bc96-81efd03058d6	Binomial	Binomialverteilung	
985 
610ca30e-6994-4f2e-a832-ec5ad9b0fa16	Count of yes occurrences	Anzahl der Erfolge	
986 
f4a51e22-1800-4de6-81cc-a8f319133893	out of [1}n{2] yes/no events	bei [1}n{2] Ja/Nein-Ereignissen	
987 
d03a7115-b34b-41ba-9251-00d9b22f6fc6	Bin(n, μ)/n	Bin(n, μ)/n	
988 
0a15e6ec-dd2e-4802-a06d-4e29166c5d27	Logit(μ)	Logit(μ)	
989 
b97f64ef-704d-4f67-a3d9-17d0f511e5cd	For posterity, we should note that the logit is the natural logarithm of an eventuality, i.e., the probability [1}p{2] divided by the counter probability [3}1-p{2]. This can be formally expressed as follows:	Hierzu sei angemerkt, dass der Logit der natürliche Logarithmus einer Chance ist, d. h. die Wahrscheinlichkeit [1}p{2] geteilt durch die Gegenwahrscheinlichkeit [3}1-p{2]. Formal lässt sich dies wie folgt ausdrücken:	
990 
6ea3dd69-bad6-4350-9f84-3cdd41ba65dd	l	l	
991 
904e36cf-f31f-4869-b177-0dfed09b7e2c	o	o	
992 
06033135-97ff-4958-a816-28bb6bc2d678	g	g	
993 
2439f55f-f906-4d39-b7aa-bd65f2e51fb5	i	i	
994 
10617fdb-ed08-46b9-81fa-90d245823072	t	t	
995 
4a7381da-c0ed-4739-a976-b61cf8721b49	(	(	
996 
9fb8819b-cda6-4436-bdda-2f44b99ed156	p	p	
997 
ec098690-b926-471c-9c47-2ae565bb9bdf	)	)	
998 
0f86dfa1-c49a-41dd-b406-d21e2487b7c0	=	=	
999 
cbdc87d1-0eb7-449e-9ae5-ac3808c90578	(	(	
1000 
2e2ad4bf-5595-49af-801d-b92743b7962f	p	p	
1001 
d6eef7dc-1890-46db-be52-fe07f9b5dabf	1	1	
1002 
743c9d10-6a0c-4450-80c9-9aaa0a3e685c	-	-	
1003 
a5318806-aba1-4294-b6f8-148720621ec9	p	p	
1004 
3a741078-7875-4618-aaf1-6e31596b693f	)	)	
1005 
08beb641-61f0-428c-9ac4-8f8077c872a1	Self-Check Questions	Fragen zur Selbstkontrolle	
1006 
7a0c377f-4c91-4a33-920a-0f1a81b5a0a9	Please list the three components of generalized linear models (GLM).	Nennen Sie die drei Komponenten verallgemeinerter linearer Modelle (VLM).	
1007 
d1a09114-7a90-4d8f-b6a4-36b4f35895e5	linear predictor, link function, and probability distribution	linearer Prädiktor, Verknüpfungsfunktion und Wahrscheinlichkeitsverteilung	
1008 
cfa1ac1e-377b-4743-a135-000748ec25f1	Logistic Regression	Logistische Regression	
1009 
280c8716-e751-4344-a6e0-1c0bd15cd5bd	Logistic Regression	Logistische Regression	
1010 
0c5dfd64-3164-4d07-8514-2ecb03add43f	Logistic regression, a closely related method to linear regression, is a special form of GLM.	Die logistische Regression ist eine eng mit der linearen Regression verwandte Methode und bildet eine Sonderform verallgemeinerter linearer Modelle.	
1011 
562390e3-165b-42b4-9edd-e86e2b7caa2c	Instead of fitting a line, logistic regression uses an S-shaped logistic function.	Denn hier wird zur Anpassung keine Linie, sondern eine S-förmige logistische Funktion (auch: Sigmoidfunktion) verwendet.	
1012 
1b0796c5-24df-4cf9-8944-02becbd97e3a	This curve ranges between 0 and 1, as shown in the figure below.	Die Kurve dieser Funktion umfasst Funktionswerte zwischen 0 und 1, wie in der folgenden Abbildung dargestellt.	
1013 
d712f332-b397-4a67-9b48-af2aa42bceb5	Logistic Regression	Logistische Regression	
1014 
e64f0cf0-7245-4925-b48d-cdbc13915cac	Hofer (2021).	Hofer (2021).	
1015 
72f97abb-5506-45a6-8a94-23a7140d19fa	[1]	[1]	
1016 
a0a25dba-2145-4879-b70d-7d4cee4f7284	There is a particular property of note here that has become popular for binary classification problems: the logistic function values are all in the range of values 0 and 1.	Aufgrund dieser besonderen Eigenschaft	
1017 
cfd101d1-ca55-4179-b38e-ff5e0c391bd2	This property also has a tendency to push the values against the boundaries of this range (i.e., toward 0 or 1).	und der Tatsache, dass sich die Funktionswerte der logistischen Funktion asymptotisch den Grenzen dieses Bereichs annähern (d. h. gegen 0 oder 1 tendieren) erfreut sich die logistische Regression großer Beliebtheit bei der Lösung von binären Klassifizierungsproblemen.	
1018 
1cf30095-ab15-4c19-8cd2-e2cdb56be572	Here, the output value [1}Y{2] expresses the probability of class membership.	In diesen Fällen drückt der Ausgabewert [1}Y{2] die Wahrscheinlichkeit einer bestimmten Klassenzugehörigkeit aus.	
1019 
e2e4d972-1b25-4dfb-ab9f-433ebd92437c	The following figure illustrates this using a simplified example, where the number of learning hours is used to predict whether a student will pass an exam.	Die folgende Abbildung veranschaulicht dies anhand eines vereinfachten Beispiels, bei dem die Anzahl der Lernstunden zur Vorhersage eines künftigen Prüfungserfolgs herangezogen wird.	
1020 
04540346-18af-4b15-ae8b-bffab8857316	The x-axis measures the “learning hours” feature (i.e., the time the student has spent studying the material), and the y-axis measures the probability that any given student will pass the exam.	Hier misst die x-Achse das Merkmal "Lernstunden" (d. h. die Zeit, die auf das Erlernen des Prüfungsstoffs verwendet wurde), während die y-Achse die Wahrscheinlichkeit des Bestehens der Prüfung angibt.	
1021 
cf5eb518-6d6f-4d4e-bc0d-44b7f78b4631	Logistic Regression as a Binary Classifier	Logistische Regression als binärer Klassifikator	
1022 
5c1083ed-660b-445c-9bb1-1e09b87cffbb	Hofer (2021).	Hofer (2021).	
1023 
cc0c3a77-b99a-4fbd-9935-bd4f2548c1d0	[1]	[1]	
1024 
5fda83b8-8092-42ca-98de-95d20c3d21ec	For student A, who spent 40 hours studying, the logistic regression model predicts a 26 percent chance of passing the exam.	Dieses logistische Regressionsmodelle prognostiziert für den Studenten A, der 40 Stunden gelernt hat, eine 26-prozentige Chance, die Prüfung zu bestehen.	
1025 
203e8a95-d72f-4db3-8308-575fae1a068b	By comparison, student B, who has spent 80 hours studying, has a 96 percent chance of passing.	Dagegen hat die Studentin B, die 80 Stunden gelernt hat, eine 96-prozentige Chance auf einen Prüfungserfolg.	
1026 
727593cf-978c-4c08-a045-b3792434c555	Therefore, the classification output for student A is “will fail the exam” and “will pass the exam” for student B. Formally, the logistic function is defined as follows:	In Anbetracht dessen lautet die (binäre) Klassifizierungsausgabe für den Studenten A "wird die Prüfung nicht bestehen", während für die Studentin B "wird die Prüfung bestehen" ausgegeben wird. Als Grundlage hierfür dient die logistische Funktion, deren formale Gleichung folgendermaßen lautet:	
1027 
a61ccbdf-f2ee-46e7-9673-df41715b541e	p	p	
1028 
c7625e02-3a3d-4de2-af69-d3bdf8f85f59	(	(	
1029 
1a6e9ceb-2e7a-479c-aa69-a8170c565686	X	X	
1030 
605a5a49-ca31-4a64-a5fb-65cae5a343dc	)	)	
1031 
eeb27b4b-95bb-4103-b4ba-cb3157f712b9	=	=	
1032 
94038ba6-fd3d-4764-af6d-f139f900bacb	e	e	
1033 
9a8b7573-ef5f-4b15-9c7d-dc28946d3305	ω	ω	
1034 
7a6894cc-8418-4e99-94e0-a34244c5b8ca	0	0	
1035 
8cff0322-9b87-427e-a9bb-2c79d3a0c5ef	+	+	
1036 
72d882c9-10db-4280-b6e6-9e44a36055e2	ω	ω	
1037 
c07b1a99-a6ae-4cd0-9dbc-76ad8678cbc7	1	1	
1038 
a59ebe4a-da16-4fbd-96bd-bd0dcc53ec24	X	X	
1039 
9bbfdb30-6b48-4b28-9fd4-4b34c6cfebd2	1	1	
1040 
1f30ba9c-1314-4d1f-aa5e-6aa12fa53b03	+	+	
1041 
682fd53b-3004-4748-ae3e-090cd8c50cd2	e	e	
1042 
7dea9151-1d06-4866-8052-c267f92ff2f9	ω	ω	
1043 
8396aa5e-8aff-4487-8214-ac087cfb9a40	0	0	
1044 
7bf06c31-4922-46fd-b05f-2b4e41ceceb4	+	+	
1045 
6b6c8584-d90a-4271-a78e-5063d2d71839	ω	ω	
1046 
36f5036a-1b3e-4b32-bc81-6e04553d864e	1	1	
1047 
c23c2846-5845-433c-94e3-ad60a3306575	X	X	
1048 
d430efff-ccfe-425b-83eb-123edf5528ba	As in linear regression, the [1}ω{2] parameters stand for the regression coefficients and [3}X{2] for the input feature. [5}p(X){2] can be interpreted as the initial probability of class membership (i.e., the probability of passing the exam).	Wie bei der linearen Regression bezeichnen die [1}ω{2]-Parameter die Regressionskoeffizienten und [3}X{2] das Eingabemerkmal. [5}p(X){2] kann als die A-priori-Wahrscheinlichkeit der Klassenzugehörigkeit (d. h. die Wahrscheinlichkeit, die Prüfung zu bestehen) interpretiert werden.	
1049 
cbc21e2f-c7ce-4d8d-9105-4a934310692c	We should note that this only defines simple logistic regression when considering one input feature.	Dabei ist zu beachten, dass diese einfache Definition der logistischen Regression nur in jenen Fällen anwendbar ist, in denen lediglich ein einzelnes Eingabemerkmal betrachtet wird.	
1050 
0aa2d045-06e5-436f-9c8e-7067429d9e68	That being said, this definition can be expanded to include multiple features [1}X{2] for the prediction.	Sie lässt sich jedoch so erweitern, dass mehrere Merkmale [1}X{2] in die Vorhersage einfließen.	
1051 
3c5364db-963d-4068-91f4-27538fa70b1c	This is called multiple logistic regression and is defined as follows:	Dies wird als multiple logistische Regression bezeichnet und ist wie folgt definiert:	
1052 
267219e0-e02d-4fe8-9aac-9b6c6a32371e	p	p	
1053 
60437120-0a27-4234-9194-eb45fbc779e0	(	(	
1054 
887bf499-8665-4395-85b2-bce7a4271ee6	X	X	
1055 
44786391-a78e-416a-b460-0af66696a102	)	)	
1056 
85e2283c-7bc4-4eae-b13f-3fa5f0a303c1	=	=	
1057 
575f8b80-2a92-4009-b278-9e84eaccdb7b	e	e	
1058 
6be46107-1d67-47ba-aea0-1366b1d3dbec	ω	ω	
1059 
19793c81-4300-475d-8cd0-0f63c8668479	0	0	
1060 
3e11ef98-0204-44a6-80f0-6db412fea8dc	+	+	
1061 
c7b8504a-5914-4a95-bf66-a280d8e3be42	ω	ω	
1062 
e2e250a3-5596-4df4-a0b3-dfa88b866bf9	1	1	
1063 
0257745d-9a90-409e-8c25-431a64fe48ae	X	X	
1064 
5f9eab3f-2583-4529-8a69-8a681f3cc969	1	1	
1065 
393536fd-5a60-4815-92ee-3c8a89abc0cf	+	+	
1066 
948d699e-01d6-4711-bdba-23d24347d844	…	…	
1067 
7607c4e3-3e7f-47ea-8e7c-09d287bcc269	+	+	
1068 
cb0f25e3-dfe9-4329-8a18-9976fe155389	ω	ω	
1069 
5138473a-6b33-4a16-8702-e3b7361d1315	p	p	
1070 
318b8a65-ad41-4bbf-af4a-efeb2bf872be	X	X	
1071 
864f7c1e-0d10-4704-934d-2b8e375c7369	p	p	
1072 
46d52f96-f7f9-4922-aa71-6c93c1e6c836	1	1	
1073 
e15b9a39-ef5f-42f5-b1ea-301b641bc732	+	+	
1074 
48462185-0d50-430c-a031-fcdfabf6d715	e	e	
1075 
35b94974-716c-4a65-912f-3b3b67710bc5	ω	ω	
1076 
9f026ef6-90b8-4088-8e51-89031fe054a4	0	0	
1077 
ea8480f6-431d-4224-a877-4ded08ff52a3	+	+	
1078 
a1d91919-b6fe-42e3-938d-77e35dc4633b	ω	ω	
1079 
2298a4c3-e4b3-41f5-95a7-7c037f6992a6	1	1	
1080 
d26dc8e4-13f5-4b93-a8bf-b06a0963b8d4	X	X	
1081 
1a6ea20b-3d57-464c-831f-0587cfb08e67	1	1	
1082 
2fc527b7-4941-4280-949d-805a6ef2427d	+	+	
1083 
9a2da0f3-8190-4ad2-b22a-2b6db40e3f87	…	…	
1084 
94c6b39b-0e76-4aa3-8369-64c6c0931c54	+	+	
1085 
c759b603-212f-4e2b-aadb-fdfcea7d5675	ω	ω	
1086 
4301a492-be71-4b3a-9fea-f77897fcafdb	p	p	
1087 
a7f50d55-d447-4458-804d-f55ec9c46c3b	X	X	
1088 
ade34400-0598-42c6-853b-86db5bd67476	p	p	
1089 
958f7843-ef7c-4f74-a8e0-7b70598b3cda	As with other classification algorithms, logistic regression has a decision boundary, which is decisive for the class to which an observation is assigned.	Genau wie bei anderen Klassifizierungsalgorithmen gibt es auch hier eine sogenannte Entscheidungsgrenze, die als Grundlage für die Klassenzuordnung von Beobachtungen genutzt	
1090 
a1b70da1-2887-421d-a28a-a22d1cfeef74	In the case of logistic regression, we also speak of the threshold probability.	und im Fall der logistischen Regression als Schwellenwahrscheinlichkeit bezeichnet wird.	
1091 
6a0dfa9f-3edf-4dc2-80cb-0ee2da6f07b1	The threshold probability marks the class boundary.	Für diese Klassengrenze	
1092 
9f575526-6bd3-46e4-a566-3a2f365ca4db	Although it is often 50 percent, it can vary depending on the purpose of the model.	wird häufig ein Wert von 50 Prozent gewählt (der aber ebenso je nach Zweck des Modells variieren kann).	
1093 
4a8d428e-b295-4adb-b8a4-5f06f26a1260	Formally, it can be expressed as follows:	Formal lässt sich die Gleichung einer solchen Klassifizierungsfunktion folgendermaßen ausdrücken:	
1094 
93e478cd-4ffe-45f1-94ee-d3af56ac73df	y	y	
1095 
6dc485cf-6515-41b3-9fe6-f68dcfa4f4c5	=	=	
1096 
2a0369e3-1ef2-4b54-8487-8d994c88be9c	\{	\{	
1097 
703bbeba-03af-4b25-8512-40d023d57112	0	0	
1098 
a0073e32-012a-40f1-a7de-fbd182fd8755	i	für	
1099 
d2dc7fbe-e711-4f0a-bce5-a5719693f2c7	f	 	
1100 
f9e4e122-227a-42e8-9eed-01304ab7e036	p	p	
1101 
fa25a01a-bcb4-47af-a1be-8906e977a37c	≤	≤	
1102 
53129b11-07b0-4d69-87ab-9f5fe699a937	0.5	0,5	
1103 
be36a461-90c3-4321-96bf-3f0836ab0007	1	1	
1104 
12679d20-79e9-4f1e-835a-1587a3e3a8ee	i	für	
1105 
70dc3a7a-6f33-4f74-b515-c976ab244034	f	 	
1106 
71e251a7-9e84-4c4b-84bd-75a0d4d8844f	p	p	
1107 
cd4730d2-6781-4dfb-99a4-68385a9121f9	>	>	
1108 
32ad1cb9-aa31-400e-becd-f297d354c698	0.5	0,5	
1109 
3fb24cee-4dad-45ad-880c-e1a3c222113d	﻿In this case, the threshold probability is 50 percent.	Auch in unserem Beispiel liegt die Schwellenwahrscheinlichkeit bei 50 Prozent.	
1110 
033a06f4-da82-4215-bc4c-0f22640035c9	If the output of the logistic function is less than or equal to 0.5, the observation is assigned to class 0 (e.g., the student fails the exam).	Das bedeutet: Wenn die Ausgabe der logistischen Funktion kleiner oder gleich 0,5 ist, wird die Beobachtung der Klasse 0 zugeordnet (d. h. es wird prognostiziert, dass der betreffende Student bzw. die betreffende Studentin die Prüfung nicht besteht).	
1111 
d5ccb4b0-0c3d-45a3-b83d-41d72bbfafb5	By comparison, if the output of the function is greater than 0.5, the observation is assigned to class 1 (e.g., the student passes the exam).	Andernfalls (bei einem Ausgabewert von über 0,5) wird die Beobachtung der Klasse 1 zugeordnet (d. h. es wird ein Prüfungserfolg vorhergesagt).	
1112 
11e4f943-1720-4fa7-a92c-a02499da2429	Model Training via Maximum Likelihood	Modelltraining mit der Maximum-Likelihood-Methode	
1113 
efa41cdb-b62d-473a-abd8-eb39a626dcef	While linear regression uses ordinary least squares (OLS) to fit a line to the data, logistic regression does not, as it has no concept of residuals.	Wie bereits erwähnt wird die OLS-Methode zur Anpassung einer Regressionsgeraden an die vorliegenden Datenpunkte im Fall der logistischen Regression nicht verwendet, da Letztere die Voraussetzungen bezüglich der Normalverteilung und Homoskedastizität der Residuen nicht erfüllt.	
1114 
200e30b3-c1cb-4944-a9b4-55fba7e73fca	Therefore, we have to use a different mechanism to fit the curve to the data, namely the maximum likelihood method.	Aus diesem Grund müssen wir ein anderes Verfahren einsetzen, um die logistische Regressionskurve an die Daten anzupassen – nämlich die Maximum-Likelihood-Methode.	
1115 
827ae0bd-6d0d-46f3-ba59-c3fa319c4c39	Using this method, we seek estimates for our regression coefficients [1}ω{2] such that the predicted probability [3}p(𝑋){2] for each observation matches the observed output value [5}Y{2] of the observation as closely as possible.	Mit ihr berechnen wir Schätzungen für unsere Regressionskoeffizienten [1}ω{2], entsprechend der Vorgabe, dass die vorhergesagte Wahrscheinlichkeit [3}p(𝑋){2] für jede Beobachtung dem tatsächlichen Ausgabewert [5}Y{2]  so nahe wie möglich kommt.	
1116 
d7d9e9ff-02e9-4a73-9a11-4002e4a59f69	In other words, we are trying to find ω such that plugging these estimates into the model for [1}𝑝 (𝑋){2] yields one of the two following options: a number close to one for all observations actually belonging to the positive class and a number close to zero for all observations not belonging to this class (Boehmke & Greenwell, 2019).	Unser Ziel besteht also darin, eine Schätzung für ω zu finden, die beim Einsetzen in das Modell dafür sorgt, dass die Ausgaben für [1}𝑝 (𝑋){2] in zwei Kategorien zerfallen: eine Zahl nahe eins für alle Beobachtungen, die tatsächlich zur uns interessierenden Klasse gehören, und eine Zahl nahe null für alle Beobachtungen, die nicht zu dieser Klasse gehören (Boehmke & Greenwell, 2019).	
1117 
7cc173d1-58fa-4049-8103-ccc5a1215df7	In mathematical terms, this can be formally expressed as a likelihood function:	Mathematisch lässt sich dies durch eine Likelihood-Funktion ausdrücken:	
1118 
d4a5db9c-c76f-4f01-a652-035e8fbf7ce9	l	l	
1119 
a386945c-1ac1-4805-af84-18fc67e23257	(	(	
1120 
734d54d7-848d-4684-91ff-b3991b4a3c72	ω	ω	
1121 
cda2b68f-0038-4a87-9647-79c05ec4f73b	0	0	
1122 
7e40d09e-fc99-42be-964d-3f08dc7e392e	,	,	
1123 
15fd9874-fb9b-4b90-915e-44595a88a08b	ω	ω	
1124 
a51c009d-cf61-4b25-9a09-ab94ca394de6	1	1	
1125 
61b17a53-5729-47ff-94e4-bb09d7d5fa96	)	)	
1126 
c56c98b2-624c-417f-81ea-a94b2d26cd32	=	=	
1127 
3f39539c-631f-49bb-aa06-3238ce021c87	∏	∏	
1128 
254b2aa2-ee23-49a9-883c-4aa86aabd660	i	i	
1129 
095ede18-4f76-415d-9e33-1103ddb636a4	:	:	
1130 
523ff95c-f2ff-4afd-9ffa-a600998443df	y	y	
1131 
d0f6b564-feea-4f53-98c9-aea9a34b0069	i	i	
1132 
876dee8e-0add-4925-a2ea-5e1a3568594d	=	=	
1133 
41c21b9d-b440-4e26-88f4-023d27c6f51b	1	1	
1134 
4e429f72-7814-4b9e-8de6-e68dff165c0a	p	p	
1135 
e90ab253-ea7d-4773-b741-69dc2fb9e1ed	(	(	
1136 
2c718b3e-65e6-4ca4-8033-0708efbb5fcc	X	X	
1137 
55af4c00-a3e5-481e-b1e4-dc20e34fb3c2	i	i	
1138 
af01d87e-9df5-4f39-9df4-b2ce9b1753a0	)	)	
1139 
1ccffa6a-6d1d-4db9-bf15-b4a51b4dff8b	∏	∏	
1140 
df00a667-347c-4c32-b7fe-a2e25d03d67e	i	i	
1141 
2b346e07-ad15-4432-83c7-74316da04a21	'	'	
1142 
344c5e2a-739a-41d5-840d-be870c661a99	:	:	
1143 
193c074c-f715-48ee-b167-d0ec647bea12	y	y	
1144 
b374466a-0462-42eb-ac51-8137f7eeab55	'	'	
1145 
7850913e-ac51-40fc-8c85-c69f695e35a1	i	i	
1146 
90e5c6e1-b620-4f13-b939-e3d2cba31218	=	=	
1147 
6ffd7a6e-a258-41bb-95cd-1feaaad7f63a	0	0	
1148 
8a405f47-ea26-46b3-8d63-92ed8b8dad76	\[	\[	
1149 
45da4861-e864-47f6-9ad1-0fb061156eec	1	1	
1150 
8b1b4fb1-1104-4876-98d2-a543deeadbf3	-	-	
1151 
f5f74764-85c5-4fd2-921b-93b7246c7246	p	p	
1152 
dfdf7ab1-ab13-45bd-bf72-247cf5b2a925	(	(	
1153 
6cf69f3c-23c9-48da-a672-6a7665fada98	x	x	
1154 
e005ebc6-3735-45e4-b364-d4ef7ae2e416	'	'	
1155 
38ed83f0-0d99-4597-97bb-ff9fecf1e672	i	i	
1156 
6d1b3290-3452-4dd2-abb1-dd55f001f5f7	)	)	
1157 
2347990b-83d3-432c-98fc-63dcf98fccfd	]	]	
1158 
26aaf155-38cc-41f2-908e-ed1cef4e477f	The likelihood function expresses the probability [1}p(X[2}i{3]){4] that an observation [5}i{4] belongs to the class based on its features [7}X[8}i{3]{4].[11]It also expresses the counter probability [12}1-p(x[13}i{3]){4] that it does not belong to the class.	Diese Likelihood-Funktion drückt zum einen die Wahrscheinlichkeit [1}p(X[2}i{3]){4] aus, dass eine Beobachtung [5}i{4] aufgrund ihrer Merkmale [7}X[8}i{3]{4] zur uns interessierenden Klasse gehört.[11]Zum anderen enthält sie die Gegenwahrscheinlichkeit [12}1-p(x[13}i{3]){4], d. h. die Wahrscheinlichkeit , dass die Beobachtung nicht zur betreffenden Klasse gehört.	
1159 
2ae9bda1-76c2-492a-a83e-b1cf99e3956d	For the coefficients [1}ω[2}0{3]{4] and [5}ω[6}1{3]{4],[9]the values are chosen that maximize the stated likelihood function by approximating the output probabilities to the actual output values.	Für die Koeffizienten [1}ω[2}0{3]{4] und [5}ω[6}1{3]{4],[9]werden nun diejenigen Werte gewählt, die die Wahrscheinlichkeit maximieren, dass die ausgegebenen Funktionswerte mit den tatsächlichen Beobachtungswerten übereinstimmen.	
1160 
b3f6bb6d-cbbd-47fa-8adb-e4689ddf69ed	Application	Implementierung in Python	
1161 
9f539709-9baa-4d8e-b046-46fdcc28fd56	Let us look at an example from Géron (2019) using the popular Iris dataset, which comes bundled in the scikit-learn library.	Im Folgenden betrachten wir ein Beispiel von Géron (2019), das auf dem beliebten Schwertlilien-Datensatz basiert. Letzterer ist unter anderem in der scikit-learn-Bibliothek enthalten und	
1162 
4f85ecfb-5e59-4305-a912-821162d9d10f	The dataset consists of 50 samples of three Iris flower species ([1}Iris setosa{2], [3}Iris versicolor{2], and [5}Iris virginica{2]) and contains four features (the respective lengths and widths for both the sepals and petals).	besteht aus 50 quantitativ ausgewerteten Proben der drei Schwertlilienarten [1}Iris setosa{2], [3}Iris versicolor{2]und [5}Iris virginica{2]. Im Einzelnen handelt es sich dabei um Angaben zu insgesamt vier Merkmalen: zur Länge der Kelchblätter, zur Breite der Kelchblätter, zur Länge der Blütenblätter und zur Breite der Blütenblätter.	
1163 
21d8ca81-1186-40a3-8158-c4162c1f121b	Géron (2019) builds a binary classifier that detects one of the species, the [1}Iris virginica{2], by using the logistic regression.	Auf dieser Grundlage erstellt Géron (2019) mithilfe der logistischen Regression einen binären Klassifikator zur Identifizierung von Exemplaren der [1}Iris virginica{2].	
1164 
701aa4d0-401b-43d9-aefb-0b6896df1e53	First, we load the Iris dataset using scikit-learn.	Um diesen Prozess nachzuvollziehen, importieren wir zunächst den Schwertlilien-Datensatz aus scikit-learn.	
1165 
426decf6-b273-4f3f-8e1e-c9d8bbf35bf6	Code	Code	
1166 
c0d2c570-3c90-4e4c-9553-b654ce19f4ec	from sklearn import datasets[1]iris = datasets.load_iris()	from sklearn import datasets[1]iris = datasets.load_iris()	
1167 
2deeef7c-6341-42ea-9bd0-a74f6756ef1e	Then, we split it into features [1}X{2] and labels [3}Y{2].	Dann unterteilen wir die einzelnen Einträge in Merkmale [1}X{2] und Labels [3}Y{2].	
1168 
eaa3b9ea-f3eb-4ac6-bd3d-f207c2d39d91	Code	Code	
1169 
37edee9e-9613-4049-9a09-701c7e8a7290	import numpy as np[1]X = iris\["data"]\[:, 3:]	import numpy as np[1]X = iris\["data"]\[:, 3:]	
1170 
4edd2784-ec8a-4b5f-b5db-9d44bc8e3693	# petal width[1]y = (iris\["target"] == 2).astype(np.int)[1]# 1 if Iris virginica, else 0	# petal width[1]y = (iris\["target"] == 2).astype(np.int)[1]# 1 if Iris virginica, else 0	
1171 
f0e4797a-fa64-47a3-8750-052ecf85cfa0	﻿Next, we initialize and train an instance of the logistic regression.	Als Nächstes initialisieren und trainieren wir eine Instanz der logistischen Regression.	
1172 
ec845676-8af7-4e44-b3e1-602518f5322d	Code	Code	
1173 
915b321d-368a-46f9-b8dc-3cd3517910f5	from sklearn.linear_model import LogisticRegression[1]log_reg = LogisticRegression()[1]log_reg.fit(X, y)	from sklearn.linear_model import LogisticRegression[1]log_reg = LogisticRegression()[1]log_reg.fit(X, y)	
1174 
ffd8efb3-7272-4675-86b1-240092f188f6	﻿Finally, with the help of the matplotlib library, we let the model predict the class probabilities and plot the estimated probabilities for Iris flowers with petal widths ranging from 0 to 3 cm.	Abschließend nutzen wir die matplotlib-Bibliothek, um die geschätzten Wahrscheinlichkeiten der Zugehörigkeit zur Klasse der Iris virginica für Schwertlilien mit Blütenblattbreiten von 0 bis 3 cm als Kurvendiagramm darzustellen.	
1175 
8a735f31-05a0-44b3-81c5-e93377c6703d	Code	Code	
1176 
2621358e-848f-494b-a0f5-26a0f7d3b924	from matplotlib import pyplot as plt[1]X_new = np.linspace(0, 3, 1000).reshape(-1, 1)[1]y_proba = log_reg.predict_proba(X_new)[1]plt.plot(X_new, y_proba\[:, 1], "g-",[1]   label="Iris virginica")[1]plt.plot(X_new, y_proba\[:, 0], "b--",[1]        label="Not Iris virginica")	from matplotlib import pyplot as plt[1]X_new = np.linspace(0, 3, 1000).reshape(-1, 1)[1]y_proba = log_reg.predict_proba(X_new)[1]plt.plot(X_new, y_proba\[:, 1], "g-",[1]   label="Iris virginica")[1]plt.plot(X_new, y_proba\[:, 0], "b--",[1]        label="Not Iris virginica")	
1177 
71895727-f509-4983-b0d3-78f83b1dc25c	﻿Let us take a look at the resulting plot.	Das auf diese Weise erzeugte Diagramm sieht dann wie folgt aus.	
1178 
c6a645d1-a893-473f-8843-05cf1fc6f6cb	Plot of Estimated Probabilities with Decision Boundary	Kurvendiagramm der geschätzten Wahrscheinlichkeiten mit Entscheidungsgrenze	
1179 
eda1c8a4-7a7f-4e25-977f-d20ada7dc42b	Hofer (2021), based on Géron (2019).	Hofer (2021), basierend auf Géron (2019).	
1180 
7bd35273-7a9a-480d-9996-dc9772a7312a	[1]	[1]	
1181 
37e18e2e-a373-48b6-9155-aaa56a29267d	We can see from the figure above that the classifier is very sure that a flower is of the [1}Iris virginica {2]variety when its petals are at least 2 cm in width (i.e., the model outputs a high probability for the class belonging).	Aus der obigen Abbildung ist ersichtlich, dass der Klassifikator eine Blume mit hoher Sicherheit der Sorte [1}Iris virginica {2]zuordnet (bzw. eine hohe Wahrscheinlichkeit für die Zugehörigkeit zu dieser Klasse ausgibt), wenn ihre Blütenblätter mindestens 2 cm breit sind.	
1182 
053cb477-daad-4847-9c1c-a6d971d232c8	Comparatively, the classifier is also very sure that a flower is not of this variety when petal width is under 1 cm. If the petal width moves between these ranges (i.e.,[1} 1cm < petal width < 2cm{2]), the classifier is less sure that the flower in question is an [3}Iris virginica{4].	Umgekehrt wird eine Zugehörigkeit zu der uns hier interessierenden Schwertlilienart mit hoher Wahrscheinlichkeit ausgeschlossen, wenn die Blütenblattbreite unter 1 cm liegt. Bei Blütenblattbreiten im Zwischenbereich (d. h.  zwischen 1 und 2 cm) erfolgt die Zuordnung (bzw. der Ausschluss einer Einstufung als  [3}Iris virginica{4]) nur mit begrenzter Sicherheit.	
1183 
bede9378-0143-47bb-a068-a7c069463f40	If we ask the model to output only the predicted class membership via the [1}predict(){2] method (instead of the predicted probability via the [3}predict_proba(){2] method used earlier), then only the class that the model considers to be more probable is shown.	Wenn wir nun statt der Methode [1}predict_proba(){2] die Methode [3}predict(){2] verwenden, gibt das Modell anstelle der genauen Wahrscheinlichkeitswerte eine binäre Einstufung (als "Iris virginica" oder "keine Iris Virginica") aus.	
1184 
d4ee36e8-f310-4c46-a761-bb845405f0a2	The model uses the default threshold probability of 50 percent, which is approximately 1.6 cm in this case.	Als Entscheidungsgrenze dient hier die Standardschwellenwahrscheinlichkeit von 50 %, was in diesem Fall einer Blütenblattberite von circa 1,6 cm entspricht.	
1185 
93342765-1458-4f9d-adb1-a6efdebbeb8c	Thus, if the width of the flower’s petals is greater than 1.6 cm, the classifier will assume that it is an [1}Iris virginica{2].	Wird dieser Wert überschritten, geht der Klassifikator davon aus, dass es sich um eine [1}Iris virginica{2] handelt.	
1186 
d0cb352e-c7f1-47c5-ad07-a64074a8e16f	Self-Check Questions	Fragen zur Selbstkontrolle	
1187 
6ad33df4-2bb3-411b-8c83-08bd2fef6026	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
1188 
d28560b7-3adf-4479-ac54-5e7d73857e1a	Using the scikit-learn implementation of logistic regression, the default threshold probability is	Bei Implementierung der logistischen Regression mit scikit-learn beträgt die Standardschwellenwahrscheinlichkeit	
1189 
104d0e8c-87ad-465a-a0bb-fae5502e4464	percent.	Prozent.	
1190 
47bc96a8-c44c-4dbf-b653-2c8b5432fbfb	50	50	
1191 
6c5030a7-ffab-4973-a391-fda15b8c4d0d	Summary	Zusammenfassung	
1192 
0eb296b3-2959-4005-8216-0f05681985e3	Regression models are a type of supervised machine learning where the label to be predicted is a continuous numerical value.	Regressionsmodelle sind eine der grundlegenden Arten von Modellen für das maschinelle Lernen und können immer dann zum Einsatz kommen, wenn das vorherzusagende Label ein kontinuierlicher numerischer Wert ist.	
1193 
0fadaece-1413-4abf-aa18-95c312c09de5	In practice, the range of application for these models is very broad, and we see them implemented every day (e.g., in weather forecasts, sales projections, the recording of users visiting a particular website, and individual income balancing).	Ihr praktischer Anwendungsbereich ist sehr breit gefächert und umfasst unter anderem Wettervorhersagen, Umsatzprognosen, die Erfassung des Nutzerverhaltens beim Besuch einer Website und die Schätzung individueller Einkommen.	
1194 
f9f8a0c7-a9a7-4b57-92c5-ecdb4a202b5c	Probably the simplest form of a regression model is linear regression, which tries to predict the label [1}Y{2] based on one or more features [3}X{2]. This is done by fitting a straight line through the given cloud of data points that explains the relationship between [5}Y{2] and [7}X{2] in the best possible way.	Die wohl einfachste Methode zu ihrer Erstellung ist die lineare Regression, bei der es darum geht, den Output oder Labelwert [1}Y{2] anhand eines oder mehrerer Merkmale [3}X{2] vorherzusagen. Dazu wird eine Gerade durch die gegebene Datenpunktwolke gelegt, die die Beziehung zwischen [5}Y{2] und [7}X{2] bestmöglich erklärt.	
1195 
fc07bb5a-360d-4ecb-8966-8a239ded2e9f	Linear models are a very simple, yet effective approach to building predictive models.	Dieser Prozess ist generell recht einfach und unkompliziert.	
1196 
17371383-4012-4484-93b4-8bfce986c354	Nevertheless, with datasets with a high number of features, they tend to lose their generalizability and have overfitting problems.	Allerdings neigen lineare Vorhersagemodelle bei Datensätzen mit einer großen Anzahl von Merkmalen zur Überanpassung, was wiederum ihre Verallgemeinerbarkeit schmälert.	
1197 
f7c10aca-a2af-4084-a767-fc4f338af5db	Regularization methods (e.g., ridge regression, lasso regression, and elastic net) can be used to counteract this.	Um dem entgegenzuwirken, können verschiedene Regularisierungsmethoden (z. B. Ridge-Regression, Lasso-Regression und Elastic-Net-Regression) eingesetzt werden.	
1198 
6e44d518-418b-4cd8-926f-6e1edcff9597	If the dependencies in the data do not follow a linear relationship, applying a linear regression would result in poor predictions.	Des Weiteren ist zu beachten, dass die Vorhersageleistung eines linearen Regressionsmodells zwangsläufig unbefriedigend ausfallen muss, wenn die Zusammenhänge der relevanten Größen in den Trainingsdaten keiner linearen Beziehung folgen.	
1199 
72e3b398-81ef-45c9-98f9-40e435101da0	Generalized linear models (GLMs) help to address this shortcoming.	Verallgemeinerte lineare Modelle (VLM) helfen, diesen Mangel zu beheben,	
1200 
17c58a3d-015a-413f-acb2-b274f94a7881	GLMs are developed by relaxing the assumptions of linear models so that we can “linearize” relationships thought to be strictly nonlinear.	indem sie die strikten Annahmen linearer Modelle lockern. Auf diese Weise lassen sich Beziehungen "linearisieren", die als streng nichtlinear gelten.	
1201 
5c020e3a-9469-4dc2-83d7-baf5bdd4ccd6	Logistic regression is a special form of GLM in which an S-shaped logistic function is fitted (instead of a line).	Eine spezielle Form von VLM ist die logistische Regression, bei der zur Anpassung keine Gerade, sondern eine S-förmige logistische Funktion verwendet wird.	
1202 
00e1a2ec-bf3b-4026-9041-b4b58ccb64b8	The values of the logistic function are between 0 and 1, which also makes it popular for binary classification problems where the boundary values of the function represent the two classes.	Da die Werte dieser Funktion stets zwischen 0 und 1 liegen und sich asymptotisch den Grenzen dieses Bereichs annähern (d. h. gegen 0 oder 1 tendieren), erfreut sich die logistische Regression großer Beliebtheit bei der Lösung von binären Klassifizierungsproblemen.	
1203 
2eb960a9-5224-4b2d-86b1-4ac26e23420c	Basic Classification Techniques	Grundlegende Klassifizierungsverfahren	
1204 
bcb2971b-ac7d-4a78-b3f5-327ed6707c5d	Basic Classification Techniques	Grundlegende Klassifizierungsverfahren	
1205 
2da57e59-a250-47b4-a8ca-6066f6eab98d	Study goals	Lernziele	
1206 
6d47dff9-9ccf-487d-9061-704913946939	On completion of this unit, you will be able to …	Nach Abschluss dieser Lektion werden Sie in der Lage sein, ...	
1207 
47d35b54-2723-4527-8325-a835dfe17f5b	understand the concept of classification and when to use it.	die Prinzipien und primären Einsatzbereiche von Klassifizierungsalgorithmen zu erläutern.	
1208 
1e81b55f-a0dd-464c-b6c1-56a58c47c236	evaluate the prediction performance of a classification model.	die Vorhersageleistung eines Klassifizierungsmodells zu bewerten.	
1209 
29bf8b40-1398-476a-9b05-f40dbb748a0c	apply two very popular classification models using Python.	zwei gängige Klassifizierungsmodelle in Python umzusetzen.	
1210 
548b4434-d7a3-4ed2-af1a-290e9a8ca239	Introduction	Einleitung	
1211 
14b426ed-d992-4cd2-8853-f199a8427ccb	Classification is a supervised learning technique that uses a provided training dataset containing both inputs and outputs in the form of a pre-determined number of categorical class labels.	Klassifizierung ist eine überwachte Lernmethode, bei der der Trainingsdatensatz sowohl die Eingabemerkmale als auch die auf vordefinierten Kategorien basierenden Labels umfasst.	
1212 
53d201f6-7bc0-446d-abfa-fd034637998b	The classification algorithm therefore learns the characteristics of the classes provided in the training dataset and can then categorize a previously unseen observation by assigning a class label to it based on its feature values.	Ein Klassifizierungsalgorithmus lernt also die Merkmale der im Trainingsdatensatz enthaltenen Klassen und kann dann eine ihm bisher unbekannte Beobachtung kategorisieren, indem er ihr auf der Grundlage ihrer Merkmalswerte eine Klassenbezeichnung zuweist.	
1213 
05729179-9b3e-4320-a820-192cfbddfc8a	Classification algorithms are used in a wide range of practical situations.	Dies ermöglicht die Lösung vielfältiger praktischer Aufgabenstellungen. Unter anderem lässt sich mithilfe eines solchen	
1214 
90d253eb-f57a-4c79-9b23-1294c5fd3134	Classifiers	Klassifikators	
1215 
baf3b1e5-d31b-4668-ae43-5462c619c233	Classifier	Klassifikator	
1216 
d05a7ce7-a211-4660-92e6-846c656af24c	A model used for classification is also called a classifier.	Ein für die Klassifizierung verwendetes Modell wird auch als Klassifikator bezeichnet.	
1217 
0ee33da6-a940-40dd-8807-128fee4dd642	can be used, for example, to predict whether a customer will buy a product or cancel a service.	vorhersagen, ob ein Kunde bzw. eine Kundin ein Produkt kaufen oder eine Dienstleistung kündigen wird.	
1218 
16829834-94e3-41d7-bd93-7491dfc00b4d	They can also be used in image recognition, e.g., to help identify objects appearing in a video stream.	Daneben können Klassifizierungsalgorithmen auch bei der Bilderkennung eingesetzt werden, um beispielsweise bestimmte Objekte in einem Videostream zu identifizieren.	
1219 
926d7bef-e344-4f71-bb7c-214797d11f5f	It is common to divide classification algorithms into binary and multi-class classifiers based on the number of output classes.	Dabei wird üblicherweise auf der Grundlage der Outputklassen zwischen binären Klassifikatoren und Mehrklassen-Klassifikatoren unterschieden.	
1220 
d5f8a1a7-47e4-46ef-9b93-c50a8d09b45d	With binary classifiers, the algorithm predicts the class membership for an observation and assigns it to one of two possible classes.	Von diesen schätzen die Ersteren die Klassenzugehörigkeit einer Beobachtung und ordnen sie jeweils einer von zwei möglichen Kategorien zu.	
1221 
0cdb03af-0547-49a8-9d24-24546f8c0d73	An example of this is the prediction of whether a web store patron is actually a fraud.	Ein Beispiel hierfür ist die Einteilung der Besucher:innen eines Onlineshops in normale Kundschaft und Betrüger:innen.	
1222 
2ca1f613-95fb-4820-b93f-8b5a47d80877	Multi-class classifiers, by contrast, predict a class based on a predefined set of classes, e.g., the classification of objects in an image or the language of a certain text.	Im Unterschied dazu nehmen Mehrklassenklassifikatoren eine Zuordnung auf Basis einer vordefinierten Menge von Klassen vor und identifizieren auf diese Weise etwa die Objekte in einem Bild oder die Sprache eines bestimmten Textes.	
1223 
3a90ea4c-6586-4799-8807-ef4a6d69c325	A further categorization of classification algorithms can be made based on how they learn.	Darüber hinaus lassen sich Klassifizierungsalgorithmen anhand der jeweils verwendeten Lernmethode 	
1224 
00275ae1-4b33-40c3-bec1-5c4300f3537e	Classifiers are trained using either a lazy learner or an eager learner.	in "Lazy Learner" (faule Lernende) und "Eager Learner" (eifrige Lernende) gliedern.	
1225 
5ef3f5b0-b2b8-46f2-91ff-b1ec541e955a	Lazy learners perform only minimal training, sometimes even none at all.	Beim Lazy-Learning ist der Trainingsprozess äußerst kurz oder entfällt mitunter sogar ganz.	
1226 
db5c8725-f692-4ef7-8363-fb6dd7d10fcc	According to Mitchell (1997), “we call these methods lazy because they defer the decision of how to generalize beyond the training data until each new query instance is encountered” (p. 244).	Nach Mitchell (1997, S. 244) "bezeichnen wir diese Methoden als faul, weil sie die Entscheidung darüber, wie über die Trainingsdaten hinaus verallgemeinert werden soll, so lange aufschieben, bis sie mit einer neuen Abfrageinstanz konfrontiert sind".	
1227 
cbdf5816-fd42-48cc-823e-294b42bd81f2	Lazy learners usually store the training dataset until they receive the test dataset or the observation to be classified.	Dementsprechend speichern Lazy-Learning-Algorithmen normalerweise den Trainingsdatensatz, bis sie den Testdatensatz oder die zu klassifizierende Beobachtung erhalten.	
1228 
6091ee04-8fcf-477e-94b2-e83b67eba551	Any additional training data received by the classifier are added to those already existing.	Alle zusätzlichen Trainingsdaten, die der Klassifikator erhält, werden zu den bereits vorhandenen Daten hinzugefügt	
1229 
f1798a41-6c30-48e9-8182-dbfccc21add3	Future predictions are then made using this expanded and larger training dataset.	und dann zusammen mit diesen als erweiterte Grundlage für künftige Vorhersagen genutzt.	
1230 
795b422a-efa6-4cfa-9053-d4ae95a25149	In comparison to eager algorithms, lazy classification algorithms need less time for training and more time to make a prediction.	Da hier bei jeder Vorhersage ein Vergleich mit den Trainingsdaten vorgenommen wird	
1231 
707a5a96-7738-4837-84cf-97704d7f228f	This is because a comparison is made to the training data each time a prediction is to be formed.	benötigen Lazy-Learning-Klassifizierungsverfahren im Vergleich zu Eager-Learning-Algorithmen weniger Zeit für das Training und mehr Zeit, um eine Vorhersage zu treffen.	
1232 
02fb0511-0f13-4be5-a09b-1f653ebc4307	Indeed, “we call this method eager because it generalizes beyond the training data before observing the new query” (p. 244).	Umgekehrt "nennen wir die \[Eager-Learning-]Methode eifrig, weil sie über die Trainingsdaten hinaus verallgemeinert, bevor sie die neue Abfrage beobachtet" (S. 244).	
1233 
436823f6-0c35-4385-b30a-d384846ae41d	The training phase of eager learners lasts longer than that of lazy learners.	Demnach dauert die Trainingsphase bei einem Eager-Learning-Algorithmus deutlich länger als beim Lazy-Learning,	
1234 
93ddd538-992b-479e-8b57-53acba33672b	Nevertheless, they need less computation time to make a prediction.	während für die Erstellung einer Vorhersage weniger Zeit benötigt wird.	
1235 
4ba98f3b-a8a5-4e5d-a458-a5cc336d6b00	In this unit, we will familiarize ourselves with two well-known classification algorithms, each using a different learner.	In dieser Lektion machen wir uns näher mit Lazy-Learning und Eager-Learning vertraut, indem wir jeweils einen gängigen einschlägigen Klassifizierungsalgorithmus betrachten.	
1236 
c920593e-518b-4cc6-b465-d1011aa8b01a	We will introduce the k-nearest neighbor classifier as an example of a lazy learner and naïve Bayes as an example of an eager learner.	So wird uns der k-Nearest-Neighbors-Klassifikator als Beispiel für einen Lazy-Learning-Algorithmus und der naive Bayes-Klassifikator als Exempel für eine Eager-Learning-Methode dienen.	
1237 
74adc5d6-a669-43c9-9a72-5d5e1cc7ffe8	We will find answers to the following questions:	Dabei werden unter anderem die folgenden Fragen beantwortet:	
1238 
447e3e91-bdd6-467d-ba65-c95e753a286b	﻿How do the k-nearest neighbor and the naïve Bayes algorithm work?	Wie funktionieren der k-Nearest-Neighbors- und der naive Bayes-Algorithmus?	
1239 
d8b2239e-b17d-4d90-8d59-e9b70edbabac	﻿How can we evaluate a classification model’s performance?	Wie können wir die Leistung eines Klassifizierungsmodells bewerten?	
1240 
16723d5a-433a-4209-a2d4-feef3a65f6e1	﻿How can we apply both algorithms using Python?	Wie lassen sich die oben genannten Algorithmen in Python implementieren?	
1241 
8c85f9b6-8ebf-44dc-b2f7-b4efd1b482fd	K-Nearest Neighbor	k-Nearest-Neighbors	
1242 
36c45269-6da0-490d-8f5b-f66d682fe7e6	K-Nearest Neighbor	k-Nearest-Neighbors	
1243 
5a225410-e7aa-467b-a3f5-9e03cb016d22	Let us assume we want to predict whether a person’s monthly income will be above or below 4,000 EUR.	Nehmen wir einmal an, wir wollen mithilfe eines Schätzverfahrens ermitteln, ob das monatliche Einkommen einer Person über oder unter 4.000 EUR liegt.	
1244 
f88434e3-b0b7-49d4-8ed5-72468d47fa7e	In order to make an accurate prediction, we could ask this person’s coworkers (i.e., neighbors) about their salary to determine if said person earns above or below the threshold.	Um diesbezüglich eine auf einem Vergleich basierende Vorhersage zu treffen, könnten wir zunächst die Kolleg:innen dieser Person nach ihrem jeweiligen Gehalt fragen und dann für jeden dieser sozioökonomischen „Nachbarn“ festhalten, ob unsere Gehaltsschwelle überschritten wird oder nicht.	
1245 
814021f5-8230-4d6f-bb13-7665b41cfb89	If we then collect further information about this person and their coworkers (e.g., age, level of education, time spent in the field, department, or job title), we should be able to make an even more accurate prediction.	Dabei lässt sich die Genauigkeit unserer Schätzung noch verbessern, wenn wir weitere Informationen über unsere Zielperson und ihre Kolleg:innen sammeln (z. B. Alter, Bildungsabschluss, Berufserfahrung in der Branche, Abteilung oder Berufsbezeichnung).	
1246 
31b53c6c-ae57-41bc-9ff6-d055934f403c	The idea behind nearest neighbor classification is to derive a prediction for one observation by using a number of similar observations (i.e., neighbors) from the training dataset.	Eben dies ist – in groben Zügen – das Prinzip der Nearest-Neighbor-Klassifizierung. Hier besteht das Ziel darin, eine Vorhersage für eine bestimmte Beobachtung zu erstellen, indem wir in unserem Trainingsdatensatz ähnliche Beobachtungen (die wir hier als "Nachbarn" oder "Neighbors" bezeichnen) ausfindig machen und als Grundlage für unsere Schätzung nutzen.	
1247 
522c7c65-77e6-4253-924b-cd69c52662c5	The central task of the k-nearest neighbor algorithm is to choose the number of k-nearest neighbors by which the prediction for the observation is deduced.	Genauer gesagt besteht die zentrale Aufgabe des k-Nearest-Neighbors-Algorithmus darin, die k nächsten Nachbarn zu ermitteln, aus denen die Vorhersage abgeleitet werden soll.	
1248 
5e7fb176-01cc-4bb5-9c75-2d721aac362c	The following figure depicts the k-nearest neighbor algorithm by providing an example of a different number of neighbors ([1}k=3, k=6, k=9{2]).	Die nachstehende Abbildung illustriert die Funktionsweise dieses Algorithmus für unterschiedliche Mengen von Nachbarn ([1}k=3, k=6, k=9{2]).	
1249 
fde91502-03cf-46ad-b890-df6dd12451d0	Depending on the number of k-nearest neighbors chosen for the classification of the new unknown observation (represented below by the circle), the algorithm makes a different prediction about its class membership and thus determines whether to assign this observation the class label “rectangle” or “triangle.”	Wie dort zu sehen ist, variiert der Output des k-Nearest-Neighbors-Algorithmus für die durch einen Kreis markierte Beobachtung (d. h. ihre Zuordnung zur Klasse "Rechteck" oder "Dreieck") mit dem für k gewählten Wert.	
1250 
16f02ffe-2903-4fa4-b113-202646e8810e	If we decide to infer the class membership using the three most similar observations from the training dataset (i.e., if we set [1}k=3{2]), the algorithm predicts the class membership “rectangle.”	Wenn wir uns entscheiden, die Klassenzugehörigkeit aus den drei ähnlichsten Beobachtungen aus dem Trainingsdatensatz abzuleiten (d. h. wenn wir [1}k=3{2] wählen), wird unsere Beobachtung der Klasse "Rechteck" zugeordnet.	
1251 
a82d1ba0-5136-4cce-b09c-206204b8f015	If we take the six most similar neighbors into consideration and set [1}k=6{2], the algorithm makes the prediction “triangle.”	Dagegen gibt der Algorithmus für [1}k=6{2] (d. h. wenn wir die sechs ähnlichsten Nachbarn in Betracht ziehen) die Vorhersage "Dreieck" aus.	
1252 
18987c18-ab12-4c13-aa7f-e411a88303ae	If we decide to set [1}k=9{2], we also receive the prediction that the new observation is a rectangle.	Und für [1}k=9{2] erhalten wir einmal mehr die Vorhersage, dass die neue Beobachtung ein Rechteck ist.	
1253 
cd5d5576-1a69-40ff-84d5-0633cd4d5aa0	K-Nearest Neighbor Algorithm with Two Classes and k=3, k=6, and k=9	k-Nearest-Neighbors-Algorithmus mit zwei Klassen und k=3, k=6 und k=9	
1254 
0e96df40-2595-4261-92bf-d5e0aa12d9c6	Hofer (2021).	Hofer (2021).	
1255 
b20d6870-7d9f-4ae8-9fb6-0a750af170d1	[1]	[1]	
1256 
b5e77d86-24a5-4e51-b0d7-b52828f841c6	﻿In this example, the k-nearest neighbor acts as a binary classifier.	In diesem Beispiel fungiert der k-nearest-neighbors-Algorithmus als binärer Klassifikator.	
1257 
7b7f2a60-4e58-43e6-ba32-4d196b7b561b	It can be extended easily for multi-class classification, i.e., more than two classes.	Er kann jedoch auch auf einfache Weise zu einem Mehrklassen-Klassifikator (d. h. einem Klassifizierungsalgorithmus für mehr als zwei Klassen) erweitert werden.	
1258 
f7e121f0-42c1-4358-9243-eb637ade3faf	The k-nearest neighbor can also be tweaked to perform regression.	Darüber hinaus lässt sich das Verfahren zur Erstellung von Regressionsmodellen verwenden.	
1259 
fbccdf5c-1c29-44c0-b13c-31f40650ddb3	This is where we simply take the mean value and output it as the predicted continuous value (as opposed to taking the vote of the neighbors).	Hier geben wir einfach das arithmetische Mittel der jeweiligen Nachbarn als kontinuierlichen Vorhersagewert aus (anstatt uns um die "Mehrheitsverhältnisse" zu kümmern).	
1260 
2d858c71-46b3-4907-8352-a822e7574e4e	Since the k-nearest neighbor algorithm is non-parametric in nature (which means there is no need to build any model or tune its parameters), it is easy to process, understand, and implement.	Generell ist der k-Nearest-Neighbors-Algorithmus einfach verständlich und leicht zu implementieren, weil er zu den nichtparametrischen Methoden zählt (weshalb die aufwendige Erstellung eines Modells bzw. die Feinabstimmung der Modellparameter entfällt).	
1261 
6d298389-bfa4-432f-8d97-01cd4f101488	However, the classification phase would prove to be more expensive in terms of computation.	Zugleich erweist sich der eigentliche Klassifizierungsprozess als deutlich rechenintensiver,	
1262 
b2d65774-b418-43af-8199-f7ae61829846	The k-nearest neighbor algorithm does not learn mathematical functions (i.e., decision boundaries) like other classification algorithms do. Other algorithms infer a prediction based on these decision boundaries.	da der k-Nearest-Neighbors-Algorithmus im Gegensatz zu anderen Klassifizierungsalgorithmen keine (auf mathematischen Funktionen basierenden) Entscheidungsgrenzen lernt.	
1263 
5e0b8de5-ad43-4ac4-9d3f-85f2ec316a88	By comparison, k-nearest neighbor merely memorizes the training dataset.	Er merkt sich lediglich den Trainingsdatensatz	
1264 
672d0b75-65e5-4c6b-8bfe-4508276ae2f9	For this reason, the k-nearest neighbor algorithm is also called a lazy algorithm.	und wird deshalb als Lazy-Learning-Algorithmus bezeichnet.	
1265 
13c3910e-6ef6-4561-96af-b615be175020	Algorithm	Algorithmus	
1266 
4e2c3a31-c034-4acc-a977-40e66eefe7e0	﻿The lazy learner used as a training algorithm by the k-nearest neighbor classifier does not require much computation time.	Hieraus ergibt sich ein klares Bild der Vor- und Nachteile eines k-Nearest-Neighbors-Klassifikators. Einerseits nimmt der verwendete Lazy-Learning-Trainingsalgorithmus kaum Rechenzeit in Anspruch.	
1267 
be145ef4-f30d-4c06-9af2-c75abcccaaa6	The classification algorithm that it uses, however, is computationally intensive.	Andererseits gestaltet sich der eigentliche Klassifizierungsprozess recht aufwendig	
1268 
4c2eef31-2a6e-4e75-85ee-fbbeb0692b66	It can be broken down into the following three phases:	und umfasst die folgenden drei Phasen:	
1269 
44045450-afbf-4c48-becc-6812c69c5936	Loading the data	Laden der Daten	
1270 
3df8bddb-7a8e-4463-b03c-c6add8c8232a	Selecting a value for [1}k{2] that specifies the number of neighbors	Auswahl eines [1}k{2]-Wertes, der die Anzahl der Nachbarn angibt	
1271 
7a263f9b-6502-4c5b-8211-a36e250be93b	Classifying the required observations	Klassifizierung der Input-Beobachtungen	
1272 
6f900cd3-5959-4d45-b364-1337afc3bcb5	﻿The third and final phase of this algorithm comprises the following sequence of actions:	Von diesen gliedert sich die dritte und letzte Phase in die folgenden Schritte:	
1273 
60fcf06f-1a58-4466-af74-a1296d7aeca6	calculating the distance to all observations of the training dataset	Berechnung des Abstands zu allen Beobachtungen aus dem Trainingsdatensatz	
1274 
5396ce20-b9ed-4554-9eaa-ab16962975a2	obtaining the k-nearest neighbors from the training dataset	Identifizierung der k nächsten Nachbarn aus dem Trainingsdatensatz	
1275 
a94ce767-00f3-4e8d-8271-db6f1a4bf2f0	obtaining the classes of these k-nearest neighbors	Ermittlung der jeweiligen Klassenzuordnung der k nächsten Nachbarn	
1276 
d2929f16-6c36-43ee-b304-0118862f0946	assigning the dominant class label to the observation	Zuweisung des vorherrschenden Klassenlabels zur Input-Beobachtung	
1277 
b420ce24-b87a-4d93-a76b-06054269fddd	﻿The actual computational work in the k-nearest neighbor algorithm lies in calculating the distance between the observation to be classified and each point in the training data.	Die eigentliche Rechenarbeit beim k-nearest-neighbor-Algorithmus besteht also darin, den Abstand zwischen der zu klassifizierenden Beobachtung und den einzelnen Trainingsdatenpunkten zu ermitteln –	
1278 
e9738e71-7896-44be-bf05-68fc48d422ec	Once this has been completed, the k-nearest neighbors can be identified.	und so die nötigen Voraussetzungen für die Identifizierung der k nächsten Nachbarn zu schaffen.	
1279 
16660c17-caf4-490d-939e-ebe7ff7959f4	This is where distance measures come into play.	Hier sind Distanzmaße relevant.	
1280 
b9a9f4c3-e13d-44cb-831b-2a577c8a8a3c	Distance Measures	Distanzmaße	
1281 
9220a5f9-653a-4ab6-89a7-200984432cef	﻿In principle, the distance measure used in the k-nearest neighbor algorithm can be chosen freely.	Im Prinzip kann das Abstandsmaß, das als Berechnungsgrundlage für den k-Nearest-Neighbors-Algorithmus dient, frei gewählt werden.	
1282 
e124cdc2-7964-4b9e-8c4a-3b600d5e2acd	Nevertheless, the two most popular distance measures are the Euclidean distance and the Manhattan distance (Boehmke & Greenwell, 2019).	Gängig ist jedoch die Verwendung des euklidischen Abstands sowie der Manhattan-Distanz (Boehmke & Greenwell, 2019).	
1283 
86076dd4-786c-4b4a-96b5-8e7c87f700d9	The easiest way to show how these two distance measures are calculated and how they differ is to use an illustrative example, as shown in the figure below.	Die nachstehende Abbildung illustriert, wie diese beiden Distanzmaße berechnet werden und worin sie sich unterscheiden.	
1284 
c524cae0-499a-4636-91d2-185e0ac627ca	Calculation of Euclidean Distance and Manhattan Distance	Berechnung des euklidischen Abstands und der Manhattan-Distanz	
1285 
d1e468a1-29c1-48ba-94a6-a116cd68b045	Hofer (2021).	Hofer (2021).	
1286 
08b119f1-c4cb-4690-906f-c36f1695750e	[1]	[1]	
1287 
b0d1446b-3744-454b-9cc3-67974841df56	null	null	
1288 
619c3983-6d27-4736-ae76-246654860782	In this example, we calculate both the Euclidean distance and the Manhattan distance between the first point with coordinates ([1}x[2}1{3] = 20, x[4}2{3] = 30{6]) and the second point with coordinates ([7}x[8}1{3] = 70, x2 = 60{6]).	In diesem Beispiel berechnen wir sowohl den euklidischen Abstand als auch die Manhattan-Distanz zwischen einem ersten Punkt mit den Koordinaten ([1}x[2}1{3] = 20, x[4}2{3] = 30{6]) und einem zweiten Punkt mit den Koordinaten ([7}x[8}1{3] = 70, x2 = 60{6]).	
1289 
f212e6fa-171c-4028-aa84-6413039ff8c8	The Euclidean distance and its calculation are represented by the direct, diagonal line between the two points, shown above in orange.	Dabei wird der euklidische Abstand bzw. seine Berechnungsgrundlage durch die direkte, diagonale Linie in Orange dargestellt.	
1290 
364f9de2-5940-4ea8-9ccd-2e04c39e2719	The Manhattan distance is composed of the distances added on the axes between the two points, shown above in green.	Im Unterschied dazu setzt sich die Manhattan-Distanz aus den Differenzen zwischen den einzelnen Achsenkoordinaten der beiden Punkte zusammen (die oben türkis markiert sind).	
1291 
79f7104a-1e50-43d8-93b5-a9bb568f5c20	As one could surmise from the figure, the Manhattan distance (also called the city block distance) gets its name from its composition.	Diese Metrik wird auch als Cityblock-Distanz bezeichnet,	
1292 
8fa68a55-4b12-4eba-a4ee-196e7a883635	Much like the street layout in Manhattan (New York), only horizontal and vertical (i.e., not diagonal) paths can be followed.	weil hier der Weg von einem Punkt zum anderen (ähnlich wie bei der Straßenführung in New York) nur über horizontale und vertikale (nicht jedoch über diagonale) Pfade führt.	
1293 
b82a668f-8583-46c6-ac91-ce3208da5bb8	The figure above shows two different paths for the Manhattan distance, both leading to the same result.	Die obige Abbildung zeigt zwei verschiedene Pfade für die Manhattan-Distanz, die beide zum gleichen Ergebnis führen.	
1294 
591fa93d-9f7a-4dba-a91e-ccb79c7fadbd	Euclidean distance	Euklidischer Abstand	
1295 
1d83f52a-36a9-4a27-8b43-87db2050149f	Following the concepts introduced above, the Euclidean distance [1}d[2}e{3]{4] between two observations [5}x[6}i{3]{4] and [9}x[10}j{3]{4] can be defined as follows:	Aus diesen Überlegungen geht hervor, dass der euklidische Abstand [1}d[2}e{3]{4] zwischen zwei Datenpunkten [5}x[6}i{3]{4] und [9}x[10}j{3]{4] wie folgt definiert ist:	
1296 
0820ef01-b0f6-43ab-8be2-58ff5425e0a8	d	d	
1297 
9afd944a-54d1-4285-869e-edbab6a898bf	e	e	
1298 
89b2508f-77ef-45b6-8446-bc8c6d74c9ac	(	(	
1299 
b59feda1-304c-484c-80f1-dbf65264fd29	x	x	
1300 
1a0717e9-d2f3-4bb4-8a2b-83fda7cca19f	i	i	
1301 
89337ef3-ff47-491b-9e24-73c418ae0521	,	,	
1302 
dc7ea8ca-dcca-4b18-b1cd-f0ca6e688e4a	x	x	
1303 
bd51d454-164b-4254-94ae-0f6e52601bc0	j	j	
1304 
9dd001cc-4807-4a11-9db6-30cf053a9b74	)	)	
1305 
1249639e-e440-41f5-98ac-4f51f6d98e0f	=	=	
1306 
430e30b6-2600-4bec-85ab-892de5853dc2	∑	∑	
1307 
f5a33812-625b-404c-8c4f-fedfa3347987	i	i	
1308 
03c1af18-6887-40d3-9f4c-b3d4bf9a94c7	=	=	
1309 
6a785f64-593e-4e49-95e8-bf9b6fa63777	1	1	
1310 
25f347fd-6f8b-4e4b-8d83-ecb81beb0a5c	n	n	
1311 
415e7a0f-a5c9-45d9-9707-d22bb9c25c64	(	(	
1312 
10d54dbd-93d4-4c87-bafb-ae92c3ab7d0f	x	x	
1313 
0441ad5e-8ebb-49fe-af0b-84b18e313b22	i	i	
1314 
08a80c23-3fa6-45ad-891e-5dd992d4461d	-	-	
1315 
65d2d092-b19c-4c76-b586-9c421c759027	y	y	
1316 
a9fee977-562a-4b6d-a3dc-e9b123033c6f	i	i	
1317 
ac12b509-04e7-41f3-8ebe-410950e25cb2	)	)	
1318 
7915fdd9-d267-4f06-ab5a-b4d26e4283ce	2	2	
1319 
31b85000-2d92-41e4-8a53-87ea45dd935d	Manhattan distance	Manhattan-Distanz	
1320 
725670fe-360a-4952-b198-8d951b420b76	If we want to calculate the distance between two observations[1} x[2}i{3]{4] and [5}x[6}j{3]{4], the Manhattan distance [9}d[10}m{3]{4]can be defined as follows:	Alternativ können wir den Abstand zwischen[1} x[2}i{3]{4] und [5}x[6}j{3]{4]auch als Manhattan-Distanz [9}d[10}m{3]{4] angeben. Diese Metrik basiert auf der folgenden Definition:	
1321 
d2c9c6f0-e087-45e6-a31d-ce436cf501b1	d	d	
1322 
fa976987-d145-4bef-ab29-a4d6a0fdd406	m	m	
1323 
3fa5e99d-9fbd-493c-b9db-ece2ab75039c	(	(	
1324 
a06334a6-544a-4ba6-8d38-a89347e02916	x	x	
1325 
00a5ba9b-b6f7-49a4-97be-79bfba1c6610	i	i	
1326 
c8a3a51d-7f96-47ce-9590-cd5f6fabc300	,	,	
1327 
bde625e9-4198-4bb3-be6c-d2fd2487439c	x	x	
1328 
59bdfbbb-723a-40e0-9819-7baace9e4880	j	j	
1329 
a75a3c0c-76fa-4853-8ebf-ec1745342803	)	)	
1330 
ce7905bc-6b34-4b0e-963e-b14a1d38a131	=	=	
1331 
bf6ce3e9-b7d1-4393-857f-4d0d4f13b941	∑	∑	
1332 
64bf1976-4201-437f-9a32-58df23220d42	i	i	
1333 
4bc60f7f-7e55-4080-82f9-a53fab614059	=	=	
1334 
0c0056da-4e2a-465d-91aa-ee37b80ac2c7	1	1	
1335 
f852ce8e-c33a-4b95-be82-eddd1a13be3b	n	n	
1336 
b8b027e9-ec10-4dc2-8a03-2a1cbfcb3996	|	|	
1337 
28839bf4-14b9-4f54-962e-c572fa0456bc	x	x	
1338 
1a46c01d-f63d-4563-bf14-8ad69b497d02	i	i	
1339 
d9d7512c-ff38-4119-9359-930256dadf60	-	-	
1340 
b5aca0a4-a63b-49e0-91a2-49b503b06160	y	y	
1341 
a50af0e4-65f5-48ec-beb7-cb4d96789546	i	i	
1342 
0480a4d6-09e2-44b0-8543-62343441ae6c	|	|	
1343 
8d493bb4-cd84-4953-a302-32caebe86ad5	Choosing a Value for [1}k{2]	Wahl eines Wertes für [1}k{2]	
1344 
9c683f90-eba2-4168-ba83-385b5bc8116a	There is no fixed rule for determining the optimum [1}k{2] value.	Grundsätzlich gibt es keine feste Regel zur Bestimmung des optimalen [1}k{2]-Wertes.	
1345 
7f2bffa8-31f4-47a6-b836-2b5fa6d24af7	Rather, we try to arrive at the optimal value for [1}k{2] iteratively, i.e., by running the algorithm a few times with different values.	Deshalb ermitteln wir das Optimum für [1}k{2] iterativ, indem wir den Algorithmus zunächst einige Male mit verschiedenen Werten ausführen	
1346 
ce24a95e-6048-42b8-b724-41927903e2bd	We can then evaluate which [1}k{2] value yields the best prediction results on the test dataset.	und dann den [1}k{2]-Wert wählen, der die besten Vorhersageergebnisse für den Testdatensatz liefert.	
1347 
2562fa51-05a3-45ea-8aac-9f233fb3d169	It is generally understood that low [1}k{2] values often overfit and large ones will underfit.	Dabei gilt die Daumenregel, dass niedrige [1}k{2]-Werte oft zu einer Überanpassung und hohe k-Werte meist zu einer Unteranpassung führen.	
1348 
057bbc3d-d07d-4b79-b3f4-ba26105af867	According to Boehmke and Greenwell (2019), at the extremes, when [1}k=1{2], we base our prediction on a single observation that has the closest distance; when [3}k=n{2], we are simply using all training samples as our predicted value (p. 163).	Nach Boehmke und Greenwell (2019) basiert die Vorhersage bei [1}k=1{2] lediglich auf einer einzigen Beobachtung (d. h. auf dem nächsten Nachbarn); bei [3}k=n{2] werden dagegen einfach alle Trainingsbeispiele zur Berechnung des Vorhersagewerts verwendet (S. 163).	
1349 
7bd40bab-4cae-43db-a0a4-c1d1310335ff	Metrics for Measuring the Prediction Performance of a Classification Model	Metriken für die Vorhersageleistung eines Klassifizierungsmodells	
1350 
6fccafab-0772-406d-adf5-4611c1be50cf	﻿As with regression, there are many metrics for evaluating the prediction performance of classification algorithms.	Genau wie für Regressionsmodelle gibt es auch für Klassifizierungsalgorithmen zahlreiche Metriken zur Bewertung der Vorhersageleistung.	
1351 
b64cfe7e-7a01-4253-946c-22022a4cd2b9	We will now take a closer look at the most popular metrics widely used in practice: the confusion matrix, accuracy, recall, and precision.	Im Folgenden lernen wir die gängigsten von ihnen näher kennen, darunter die Wahrheitsmatrix, die Korrektklassifikationsrate, die Sensitivität und die Präzision.	
1352 
285d1907-c397-44f5-8c4a-42fb769ca120	Confusion matrix	Wahrheitsmatrix	
1353 
5c29f06d-94be-4da5-8dd6-24c12222e741	﻿The confusion matrix is a standard tool for the presentation of classification results.	Die Erstellung einer Wahrheitsmatrix (auch: Konfusionsmatrix) ist ein Standardinstrument für die Darstellung von Klassifikationsergebnissen.	
1354 
a65a41c5-02fb-4712-a923-c7cb998af0ae	The following figure shows the structure of a confusion matrix consisting of four fields and using two classes to be predicted:	Die folgende Abbildung zeigt die Struktur einer solchen, aus vier Feldern bestehenden Matrix für einen binären Klassifikator, der Beobachtungen in die Klassen	
1355 
26be25b8-01f0-43f3-a666-d0d346e59412	“cat” and “dog.”	"Katze" und "Hund" einteilt.	
1356 
c891797b-7b91-431e-9662-51352c8edb46	The rows of the matrix show the actual number of observations in each class; the columns show how many observations the classifier has predicted in each class.	Dabei enthält die erste Zeile alle Beobachtungen aus dem Datensatz, bei denen es sich tatsächlich um Katzen handelt, während die zweite Zeile nur jene Beobachtungen umfasst, die eigentlich zur Klasse der Hunde zählen. Im Unterschied dazu zeigen die beiden Spalten, wie viele Zuordnungen bzw. Vorhersagen des Klassifikators auf jede der beiden Kategorien entfallen.	
1357 
840fe477-e14d-442f-9546-5a8a81063e4a	It should also be noted that this assignment can be inversed, i.e., the columns could list the actual observations per class and the rows could list the predicted observations per class.	Übrigens kann diese Präsentation der Daten auch umgekehrt werden, sodass die Spalten die tatsächlichen Beobachtungen pro Klasse und die Zeilen die Vorhersagen bzw. Zuordnungen pro Klasse auflisten.	
1358 
b9de4c28-3de2-4220-9c6d-e2df604faad0	A perfect classifier that only gives correct predictions would only return true positives and true negatives, i.e., observations that are correctly classified as “cat” or “dog.”	Des Weiteren ist ein perfekter Klassifikator daran zu erkennen, dass er nur richtig positive und richtig negative Zuordnungen ausgibt und somit alle Beobachtungen korrekt als "Katze" oder "Hund" einstuft.	
1359 
7888c9a7-04ac-4f98-a9ed-6fe92b9161af	However, in practice, this result would likely be considered utopian.	Allerdings erweist sich ein solches Ergebnis meist als utopisch.	
1360 
e3fd8419-8781-422f-8e83-ced27ad701b0	In reality, this is a matter of increasing the number of true positives and negatives in comparison to the false positives and negatives, i.e., observations incorrectly classified as “cat” or “dog.”	In der Praxis geht es vorwiegend darum, die Zahl der richtig positiven und negativen Zuordnungen gegenüber der Zahl der falsch positiven und negativen Zuordnungen (d. h. der Anzahl der falsch eingestuften Hunde und Katzen) zu erhöhen.	
1361 
0431875c-ae9f-4d75-b03b-cbefee056e1c	Hofer (2021).	Hofer (2021).	
1362 
f31ab120-241e-457b-9f70-d4fc94689c73	Predicted positive	Klassifizierung als	
1363 
e47d122e-41d5-4f18-b22b-f646ead2655a	(cat)	Katze	
1364 
65c8c140-88dd-4108-ba47-a013eaad46f5	Predicted negative	Klassifizierung als	
1365 
9ead8b8d-fdb1-4a30-988b-47746c09ffe3	(dog)	Hund	
1366 
5c00fadc-2f91-42d1-9121-31cd39ab50fb	Actual positive (cat)	Beobachtung einer Katze	
1367 
f737a2ce-ed07-4861-af83-c1535ea19b4c	True positive (TP)	Richtig positiv (RP)	
1368 
5260240f-cce4-4047-86d6-3556100da95d	False negative (FN)	Falsch negativ (FN)	
1369 
e0542910-7d71-4587-93cc-fbeb4979bdb7	Actual negative (dog)	Beobachtung eines Hundes	
1370 
f83abed7-b479-45a9-9812-535d2e1574d0	False positive (FP)	Falsch positiv (FP)	
1371 
ede65adf-4694-4226-95f2-a7b7c15e88e5	True negative (TN)	Richtig Negativ (RN)	
1372 
082ee3cd-eebf-4219-8f9a-764e2c1760ee	﻿The matrix is a decent visual representation of the classification results.	Diese Matrix bietet eine anschauliche Darstellung der Klassifizierungsergebnisse,	
1373 
b8c68422-ab24-416a-b55a-cf958273919c	That being said, it is less suitable for the comparison of different classifiers.	eignet sich jedoch weniger für Vergleiche zwischen verschiedenen Klassifikatoren.	
1374 
18ddb283-00e7-4e5a-b1a6-30258a07d8a6	To perform such comparisons, it is much more practical to use metrics that express model performance in the form of single digits.	Für diesen Zweck gibt es praktischere Kennzahlen, die die Leistung eines Modells in einer einzelnen numerischen Größe zum Ausdruck bringen	
1375 
5e45842f-0552-4c18-b2e5-103f3553c7b8	Then, these results could be easily compared with the scores achieved by other classification models.	 und auf diese Weise einfache modellübergreifende Vergleiche ermöglichen.	
1376 
57759a34-8e49-415b-99a5-5e1032476228	This is where accuracy, recall, and precision come into play, which can all be calculated from the matrix.	Zu den einschlägigen Metriken gehören Korrektklassifizierungsrate, Sensitivität und Präzision, die alle aus der Wahrheitsmatrix berechnet werden können.	
1377 
32b5e8d1-0947-446d-837c-d9bf0d43b87d	Accuracy	Korrektklassifizierungsrate (Accuracy)	
1378 
f792f41d-823b-4f06-8fd8-95d3884380cb	﻿By dividing the sum of correctly classified observations by the total number of observations, we arrive at an accuracy percentage.	Wenn wir die Summe der richtig klassifizierten Beobachtungen durch die Gesamtzahl der Beobachtungen teilen, erhalten wir die Korrektklassifizierungsrate.	
1379 
8edd4365-8c47-4f84-a165-42c45cc3cb07	The accuracy is calculated based on the confusion matrix, as seen here:	Sie wird auch als Accuracy bezeichnet und berechnet sich folgendermaßen aus den vier Feldern der Wahrheitsmatrix:	
1380 
26e7279e-c227-4b39-ac86-18dc745d669f	Accuracy=	Accuracy=	
1381 
a3543f4a-8cfc-458d-a0ac-14b8ec6e0493	T	R	
1382 
da232856-76e2-4f84-a1c0-2d268f492570	P	P	
1383 
1f7cbabb-21ec-49b7-9a98-15fd139d1286	+	+	
1384 
7658b749-764a-46e6-98d7-3150fae94d79	T	R	
1385 
d277f490-fa5d-4931-9567-91815b2d165e	N	N	
1386 
58bd138f-9686-4770-8b41-dcd06e66d206	T	R	
1387 
5c5f522b-efa0-44d0-95cd-a3640ef09333	P	P	
1388 
ffebd213-22c4-46f4-b041-717107eaf238	+	+	
1389 
8c16a130-1653-4c54-b5c4-91306c991e3e	T	R	
1390 
3dd324d0-14b7-4ca7-9914-66cc6bf56e9b	N	N	
1391 
2f604464-60a5-4aac-ba9e-4c8bc6d931dc	+	+	
1392 
896ea0d8-840f-4063-9ee8-a30cf6961e1e	F	F	
1393 
4135999d-03ce-4327-b8e1-1b25b9a28036	P	P	
1394 
e41e53f9-fc9a-4946-a481-3532dbd6790c	+	+	
1395 
c556f51a-8062-40cc-a4fd-6dd624e87712	F	F	
1396 
d353604c-a5d0-43b4-b246-7b9b4b7b1e81	N	N	
1397 
667959b9-f686-4d3f-b1df-f2577dc90d92	Accuracy is a metric that should be used with caution when evaluating classification models.	Allerdings ist die betreffende Metrik nicht in jedem Fall zur Bewertung des Klassifizierungsmodells geeignet.	
1398 
67321c99-140d-4825-b67c-8247c493af14	For example, we can look at a classifier designed to predict whether any prospective airline passenger is a dangerous criminal.	Soll unser Klassifikator beispielsweise zwischen harmlosen und gefährlichen (kriminellen) Fluggästen unterscheiden,	
1399 
3dd22011-2db7-44b5-b1ed-c5b66942759a	As the dataset is highly unbalanced, and the proportion of non-criminals passing through the airport each day could be north of 99 percent, the classifier will have high accuracy.	können wir davon ausgehen, dass der Datensatz der Beobachtungen sehr unausgewogen ist und möglicherweise mehr als 99 % harmlose Personen umfasst. Daher wird der Klassifikator auch dann eine hohe Korrektklassifizierungsrate aufweisen, wenn er (fäschlicherweise) ausnahmslos alle Personen als nicht-kriminell einstuft.	
1400 
81a134d6-f393-48c1-b5d4-026368671375	For this reason, it is advisable to additionally consider recall and precision when working with unbalanced datasets.	Aus diesem Grund ist es ratsam, bei der Verarbeitung unausgewogener Datensätze zusätzlich die Metriken Sensitivität und Präzision zu berücksichtigen.	
1401 
86df9422-829a-483d-8c58-964f412430e8	Recall	Sensitivität (Recall)	
1402 
f598dcf4-00e6-4226-a8ea-70dca492412b	﻿Recall is the true positive rate that shows how well the model prevents false negatives (i.e., failing to identify the class as positive when appropriate).	Die Sensitivität wird auch als Recall oder Richtig-positiv-Rate bezeichnet und ist ein Maß dafür, wie gut das Modell falsch-negative Klassenzuordnungen verhindert.	
1403 
3e6bad0b-a7df-44d2-bd9f-a359d08e42b9	Let us take the task of classifying objects present in an image as an example scenario.	Diese Metrik erweist sich beispielsweise dann als nützlich, wenn Objekte in einem Bild klassifiziert werden sollen.	
1404 
9482b74f-19da-4c07-b777-3ae3830c798e	Failure to classify certain objects in said image would result in a lower recall.	Ihr Wert fällt, sobald bestimmte Objekte falsch zugeordnet werden.	
1405 
46e20b3e-ba5b-4faf-b4b0-49196443b1e2	Recall is calculated using the following notation:	Als Berechnungsgrundlage dient dabei die folgende Formel:	
1406 
66712873-4b2b-4c98-93ab-8cce5287b680	Recall=	Recall=	
1407 
4a444d78-d86a-478e-a589-d0a3be99c0a0	T	R	
1408 
5ae3214f-54c0-41b8-9f85-cac6a9110c89	P	P	
1409 
8b713427-1746-40dc-a0b9-b8ce42193bb7	T	R	
1410 
eadc9b77-be0a-4d59-99d2-1fbf5e7449b3	P	P	
1411 
ec30660d-3893-4461-8820-1a34462ec3e2	+	+	
1412 
0ee702a5-e988-4ea6-a1ea-0d4b91791245	F	F	
1413 
de5e2203-d362-47dd-9c13-eeaea1db77f1	N	N	
1414 
e0fd6927-4138-41fe-b37d-6b640f1ea275	Precision	Präzision (Precision)	
1415 
f0dfb757-b32c-482b-8df5-a7a4556d7d04	Precision refers to the accuracy of the positive predictions and indicates the reliability of a positive classification.	Die Präzision bezieht sich auf die Genauigkeit der positiven Vorhersagen und gibt die Zuverlässigkeit einer positiven Klassenzuordnung an.	
1416 
775b818f-3ae8-4e9b-bc29-de329814b244	It is typically used alongside the recall to ensure the model performs its classification tasks well.	Sie wird in der Regel zusammen mit dem Recall-Wert verwendet, um sicherzustellen, dass das Modell seine Klassifizierungsaufgaben gut erfüllt.	
1417 
37e80012-446e-4def-8eb9-2870740e5f4f	Let us briefly return to our example concerning the identification of objects in an image.	Um dies zu illustrieren, können wir erneut das Beispielszenario der Identifizierung von Objekten in einem Bild aufgreifen.	
1418 
3cf9d8f1-52af-4c6d-b302-5b7e3cd20ab1	If we assign an object to a specific class, the certainty and accuracy of this classification would reflect precision.	Hier gibt die Präzision darüber Auskunft, mit welcher Sicherheit und Genauigkeit die Zuordnung eines Objekts zu einer bestimmten Klasse erfolgt.	
1419 
fda19666-cc39-49a9-8747-ced2c3f0020c	Precision is expressed as follows:	Mathematisch wird dies wie folgt ausgedrückt:	
1420 
ca8c0163-f6f4-424b-b5cf-5ada3bb034b6	Precision=	Precision=	
1421 
d0ec5760-e951-4c57-9269-ae381659dcfa	T	R	
1422 
edaab8b7-9376-4e3c-b549-b30e35377521	P	P	
1423 
55158a39-74be-45bc-ab6e-12608ac47099	T	R	
1424 
c11e3127-01c9-407c-982b-eb3337500b5a	P	P	
1425 
e0ed4ba2-1860-4f00-a068-e723fb87752b	+	+	
1426 
8c024f43-b8d8-4bcd-b6ad-279507eb074e	F	F	
1427 
237417ed-b398-4cb1-a378-305029893a71	P	P	
1428 
808a7540-454a-42c3-87bb-fb5706f3c451	Receiver operating characteristic curve (ROC curve)	ROC-Kurve	
1429 
0ea4d72b-c827-4c99-818f-fc16d345e61a	Another visual metric for evaluating classifiers is the receiver operating characteristic (ROC) curve.	Eine weitere, visuelle Metrik zur Bewertung von Klassifikatoren ist die ROC-Kurve (Receiver Operating Characteristic),	
1430 
743acdb7-8918-49fd-a664-67f65292db8c	The ROC curve is the result of comparing of the true positive rate on the y-axis and the false positive rate on the x-axis.	die auf dem Vergleich der Richtig-positiv-Rate (Sensitivität) mit der Falsch-positiv-Rate basiert. In dem betreffenden Diagramm wird die Erstere als Ordinate (bzw. auf der y-Achse), die Letztere als Abszisse (bzw. auf der x-Achse) eingetragen.	
1431 
51aced6b-14da-4a26-9612-10c9861da497	A diagonal line indicates a classifier that decides by random chance.	Ergibt sich dabei eine diagonale Linie, so verweist dies auf einen Klassifikator, der nach dem Zufallsprinzip entscheidet.	
1432 
abf7b4aa-2ba3-4dea-ab8c-d920c8bbb087	In the figure below, we see different ROC curves for different classifiers.	Die nachstehende Abbildung kontrastiert diesen Verlauf mit den ROC-Kurven anderer Klassifikatoren.	
1433 
77d7673e-d87b-46be-b3cf-f4303b7c5d57	The closer a classifier appears to the upper left corner of the diagram, i.e., the higher its true positive rate and the lower its false positive rate, the better its prediction performance.	Hier zeigt sich: Je näher die ROC-Kurve eines Klassifikators an der oberen linken Ecke des Diagramms liegt, desto höher ist die betreffende Richtig-positiv-Rate bei niedriger Falsch-positiv-Rate und desto besser ist die Vorhersageleistung des Klassifikators.	
1434 
ce31e7ec-5a2d-408e-9ef9-b1a850e7336a	ROC Curve	ROC-Kurve	
1435 
bc90e3dc-245b-423d-ae6d-082f702d6f3f	Hofer (2021).	Hofer (2021).	
1436 
f054e3d9-6a49-426e-9229-eb664c9f71d1	[1]	[1]	
1437 
30cf11ba-0f19-489a-a5d4-0c0f4578b46c	Area under the curve (AUC)	Fläche unter der Kurve (Area under the curve, AUC)	
1438 
75f60eb8-162b-4314-aae9-6ba2d22e819a	﻿Another metric that can be used to evaluate classification models is the area under the curve (AUC).	Eine weitere Metrik, die zur Bewertung von Klassifizierungsmodellen verwendet werden kann, ist die	
1439 
efbdd6e0-8f89-441a-acfe-09ecc10dedd5	As its name suggests, this metric covers the area beneath the ROC curve.	Fläche unter der ROC-Kurve.	
1440 
fde71749-1083-4a78-84a3-26d95a6e06d4	The AUC is expressed as a number in the range of 0 to 1: an AUC of 0.5 describes a classifier acting randomly; an AUC of 1.0 (the maximum) represents a perfect classifier.	Dieser sogenannte AUC-Wert wird durch eine Zahl zwischen 0 bis 1 ausgedrückt: Ein Wert von 0,5 verweist auf einen Zufallsklassifikator, ein (maximaler) Wert von 1,0 dagegen auf einen perfekten Klassifikator.	
1441 
d68aaba1-848a-48c7-8d76-52df94be5740	AUC Curve	Fläche unter der ROC-Kurve	
1442 
51184466-c741-43c7-85d2-e1dc7d5bcf1b	Hofer (2021).	Hofer (2021).	
1443 
48f9be0d-c747-4592-b7a4-3cd8c051ea6f	[1]	[1]	
1444 
34cbedb0-4a65-4974-8efb-a2913fe2b9cb	Application	Implementierung in Python	
1445 
92cffc3e-012d-4cfb-aba5-a284fa0bb79e	﻿We will look at how the k-nearest neighbor algorithm can be used with the help of the scikit-learn library.	Das folgende Beispiel illustriert, wie der k-nearest neighbors-Algorithmus mithilfe der scikit-learn-Bibliothek implementiert und verwendet werden kann.	
1446 
2d70a537-65fb-48f0-bd16-2aa6b06fb942	This example uses the rather ubiquitous breast cancer dataset.	Zu diesem Zweck importieren wir zunächst den weit verbreiteten Brustkrebsdatensatz	
1447 
a2a4c7da-d796-4f97-a4fa-dff73ced5b8b	First, we import the used libraries and modules.	sowie die erforderlichen Bibliotheken und Module.	
1448 
dd7d8917-eca4-4965-a05c-dadc19034c3b	Code	Code	
1449 
7a5afe8d-f1c1-47d2-9e98-630f464570a9	import pandas as pd[1]from sklearn.datasets import load_breast_cancer[1]from sklearn.model_selection import train_test_split[1]from sklearn.neighbors import KNeighborsClassifier[1]from sklearn.metrics import confusion_matrix[1]from sklearn.metrics import accuracy_score	import pandas as pd[1]from sklearn.datasets import load_breast_cancer[1]from sklearn.model_selection import train_test_split[1]from sklearn.neighbors import KNeighborsClassifier[1]from sklearn.metrics import confusion_matrix[1]from sklearn.metrics import accuracy_score	
1450 
02cc06b7-d214-454a-91f2-c1e060eefc0c	The dataset contains two classes of tumors:	Der betreffende Datensatz umfasst	
1451 
3a77c3a4-58ff-41ee-bbd0-3b9a16d5fc13	212 malignant tumors and 357 benign tumors.	212 bösartige Tumore und 357 gutartige Tumore	
1452 
b42f8cb4-4e21-4e35-9434-ab971ca25147	There are 30 features in the dataset.	und spezifiziert jeweils 30 Merkmale.	
1453 
2f83e42c-2028-445d-be22-ac5d5048eee7	The label must be categorically coded so that it can be interpreted by the model (i.e., [1}malignant=0{2] and [3}benign=1{2]).	Dabei muss das Label kategorial codiert sein, damit es vom Modell interpretiert werden kann (d. h. [1}bösartig=0{2] und [3}gutartig=1{2]).	
1454 
75595ff5-6385-4d14-ba1a-1bd21f49e17b	For simplicity, we will only focus on three random features from those available.	Darüber hinaus beschränken wir uns hier der Einfachheit halber auf drei zufällig ausgewählte Eingabemerkmale.	
1455 
2d7f49c8-d3af-4549-a120-41fc311f3571	Code	Code	
1456 
773dd611-f0f8-4aa9-b563-fac197a44c2d	dataset = load_breast_cancer()[1]X = pd.DataFrame(dataset.data,columns=dataset.feature_names)[1]X = X\[\['mean smoothness', 'mean concavity', 'radius error']][1]y = pd.Categorical.from_codes(dataset.target, dataset.target_names)[1]y = pd.get_dummies(y, drop_first=True)	dataset = load_breast_cancer()[1]X = pd.DataFrame(dataset.data,columns=dataset.feature_names)[1]X = X\[\['mean smoothness', 'mean concavity', 'radius error']][1]y = pd.Categorical.from_codes(dataset.target, dataset.target_names)[1]y = pd.get_dummies(y, drop_first=True)	
1457 
faef237b-5792-4e4d-9dc2-22f1f8722f98	We split the dataset into a training and a test set with the help of scikit-learns’ [1}train_test_split{2] module.	Anschließend teilen wir den Datensatz mithilfe des scikit-learn-Moduls [1}train_test_split{2] in einen Trainings- und einen Testsatz auf.	
1458 
e73933ec-c250-4164-b719-b7cbf74df534	By default, the module takes 25 percent of the data for testing.	Dadurch werden standardmäßig 25 Prozent der Daten für die Testphase zurückgehalten.	
1459 
a8bacbb9-bdbc-4a2d-980b-5ee47bd70974	Code	Code	
1460 
42e1cd8f-209e-4de7-9334-4893e920a25c	_train, X_test, y_train, y_test = train_test_split(X, y)	_train, X_test, y_train, y_test = train_test_split(X, y)	
1461 
f9f548e8-02dc-47e8-a4af-b7984642257c	We can now initialize and train an instance of the k-nearest neighbor algorithm with a value of [1}k=4{2].	Darauf aufbauend können wir eine Instanz des k-Nearest-Neighbors-Algorithmus mit einem Wert von [1}k=4{2] initialisieren und trainieren.	
1462 
987b4045-1ea9-4f4a-9b23-c57d07392aa6	We choose the Manhattan distance as the distance metric.	Hierfür nutzen wir die Manhattan-Distanz als Abstandsmaß.	
1463 
07725fc3-d28a-4d35-b36c-770b0ed8c6e4	Code	Code	
1464 
f1fa5202-cbec-44c3-898e-2bb4ab71a68e	knn = KNeighborsClassifier(n_neighbors=4, +[1]      metric='manhattan')[1]knn.fit(X_train, y_train.values.ravel())	knn = KNeighborsClassifier(n_neighbors=4, +[1]      metric='manhattan')[1]knn.fit(X_train, y_train.values.ravel())	
1465 
1050566b-1b93-4242-b23f-14bd48bab3be	﻿In the next step, we apply the trained model to the test data and generate predictions.	Im nächsten Schritt wenden wir das trainierte Modell auf die Testdaten an und erstellen Vorhersagen.	
1466 
b7ce7acf-fe79-48d8-86f7-8857e5c57567	Code	Code	
1467 
049570fa-3aef-461c-88a3-f36733de757f	y_pred = knn.predict(X_test)	y_pred = knn.predict(X_test)	
1468 
f9ef3788-7237-4c29-b940-685a568e1d8d	﻿To evaluate the model, we generate the confusion matrix.	Die Bewerung der Vorhersageleistung unseres neuen Modells erfolgt dann mithilfe einer Wahrheitsmatrix (confusion_matrix).	
1469 
1513c2f5-7531-446a-b422-2afb2f50788a	Code	Code	
1470 
d216954b-e0ee-4f46-962c-285fb3062429	print(confusion_matrix(y_test, y_pred))	print(confusion_matrix(y_test, y_pred))	
1471 
396bb0c9-4e38-4b19-9bec-23b942683969	The following output will then appear in the console.	Daraufhin zeigt die Konsole die nachstehende Ausgabe.	
1472 
302013d2-552b-4202-97f5-241b8761c5a7	One should note that, as the splitting of the data in training and testing data is random, this output may look different from execution to execution.	Allerdings ist in diesem Zusammenhang zu beachten, dass die Aufteilung der Daten in Trainings- und Testdaten zufällig ist, weshalb die ausgegebene Wahrheitsmatrix bei jeder Ausführung des entsprechenden Befehls unterschiedlich aussehen kann.	
1473 
8322ed5e-7d98-4961-85a9-3ac5052860ad	Code	Code	
1474 
b8227797-21d9-409d-adbe-12f3ad72ce35	\[\[48 4][1] \[13 78]]	\[\[48 4][1] \[13 78]]	
1475 
81d2480a-3a69-4143-b52b-e83d3793b169	Based on the confusion matrix generated, our model shows an accuracy of [1}126/143 = 88.1%.{2]	Aus den obigen Daten geht hervor, dass unser Modell eine Korrektklassifizierungsrate von [1}126/143 = 88,1 %.{2] erreicht.	
1476 
1300cf99-0aa3-4e8b-9c01-a8f2c1ba7d36	Of course, the model could be further optimized by adding more features and by trying different values for [1}k{2].	Dieser Wert lässt sich noch steigern, wenn wir dem Modell weitere Merkmale hinzufügen und verschiedene Werte für [1}k{2] durchprobieren.	
1477 
8bac77cb-b559-4aab-aa16-eb27775e1746	Alternatively, we can use the [1}accuracy_score(){2] function from scikit learn to calculate this number.	Dabei können wir den manuellen Rechenaufwand reduzieren, indem wir die auf die scikit-learn-Funktion [1}accuracy_score(){2] zurückgreifen, um die Korrektklassifizierungsrate zu ermitteln.	
1478 
996c28e3-6d6c-45eb-99ab-e58ccf6bcbb5	Code	Code	
1479 
0a1d80c5-7e63-4950-bc04-32d9c911a0e4	accuracy_score(y_test, y_pred)	accuracy_score(y_test, y_pred)	
1480 
616fa5cc-2f0e-4973-aa3b-c5f61eb90096	Self-Check Questions	Fragen zur Selbstkontrolle	
1481 
6e7f7259-4a29-4f32-acc6-e19a9996e543	Please select the correct statement(s).	Bitte markieren Sie die korrekte(n) Aussage(n) mit einem Haken.	
1482 
4767a45e-e4eb-4d4c-af5a-a726b9c57ef0	The k-nearest neighbor classifier is a lazy learner.	Der k-Nearest-Neighbors-Klassifikator zählt zu den Lazy-Learning-Algorithmen.	
1483 
16abb454-b43a-47a4-8380-2195222a421a	The Manhattan distance between two points is the length of the straight line connecting them.	Die Manhattan-Distanz zwischen zwei Punkten ist die Länge ihrer direkten Verbindungslinie.	
1484 
a74dc68f-96a2-4a3f-8e2a-4312017b24d4	The k-nearest neighbor classifier can be used for binary and multi-class classification.	Der k-Nearest-Neighbors-Klassifikator kann sowohl für binäre Klassifizierungsaufgaben als auch für die Einteilung von Beobachtungen in mehr als zwei Klassen verwendet werden.	
1485 
c1390d8d-8cf5-489b-9240-93269933497c	Naïve Bayes	Naïve Bayes-Klassifikatoren	
1486 
f90a6914-2ace-4f1e-8547-114ac023d599	Naïve Bayes	Naïve Bayes-Klassifikatoren	
1487 
f3c53551-7d56-4c4d-acd5-6565367e565c	Bayesian classifiers provide a probabilistic approach to	Bayes-Klassifikatoren ermöglichen probabilistische	
1488 
23c31850-37c7-49c1-bf36-4f822e3c4ed3	inference	Inferenzen	
1489 
964e0137-5a5d-4206-a04e-7d68b8b52cd3	Inference	Inferenz	
1490 
56b735af-2930-435a-a35d-92b161ff2bab	This is the process of using a trained machine learning model on new, incoming data.	Dieser Begriff bezeichnet die Anwendung eines trainierten maschinellen Lernmodells auf neu eingehende Daten.	
1491 
b5c65aff-a9d4-4296-8bc1-ac8b3fda1bff	and bases itself on “the assumption that the quantities of interest are governed by probability distributions and that optimal decisions can be made by reasoning about these probabilities together with observed data” (Mitchell, 1997, p. 154).	und beruhen auf der "Annahme, dass die interessierenden Größen Wahrscheinlichkeitsverteilungen unterliegen und dass optimale Entscheidungen getroffen werden können, indem man diese Wahrscheinlichkeiten zusammen mit den beobachteten Daten analysiert" (Mitchell, 1997, S. 154).	
1492 
a85b8873-ff18-42b6-8f64-7a590a84b355	The naïve Bayes classifier is based on Bayes’ theorem, which is explained in the following section.	Ein Spezialfall ist der naive Bayes-Klassifikator, der auf dem Satz von Bayes basiert und im folgenden Abschnitt näher erläutert wird.	
1493 
81d3dcb7-5d6b-4b56-a8f0-0e18335df1e6	It makes the “naïve” (yet, in practice, surprisingly performant) assumption that the distributions of the features are independent of each other.	Er geht von der "naiven" (aber in der Praxis erstaunlich effektiven) Annahme aus, dass die Verteilungen der berücksichtigten Merkmale voneinander unabhängig sind.	
1494 
68e7eb44-6f9b-4836-bfb5-53e1c91db997	Bayes’ Theorem	Satz von Bayes	
1495 
47dc32a0-656b-45a0-9918-41e2abae4c74	We are often interested in determining the best hypothesis [1}h{2] from a space of different possible hypotheses [3}H{2] given the training data [5}D{2]. The best hypothesis [7}h{2] equates to the most likely hypothesis given the training data [9}D{2] and any initial information concerning the prior probabilities of the hypotheses [11}H{2]. [13}P(h){2] refers to the initial probability that hypothesis [15}h{2] is true without having already observed the data [17}D{2]. It is frequently called the prior probability of [19}h{2] and can represent all previous knowledge we have indicating that [21}h{2] is true.	Bei vielen statistischen Problemen geht es um die Bestimmung der besten Hypothese [1}h{2] aus einem Hypothesenraum [3}H{2] unter Berücksichtigung der Beobachtungsdaten [5}D{2]. Dabei ist die beste Hypothese [7}h{2] mit der wahrscheinlichsten Hypothese identisch, wenn wir die Beobachtungsdaten [9}D{2] und alle anfänglich verfügbaren Informationen über die A-priori-Wahrscheinlichkeiten der Hypothesen [11}H{2] einbeziehen. Wir interessieren uns also zunächst für die A-priori- oder Anfangswahrscheinlichkeit [13}P(h){2], die ohne Rekurs auf die Beobachtungsdaten [15}D{2] darüber Auskunft gibt, wie wahrscheinlich [17}h{2] wahr ist. Sie wird mitunter auch als Ursprungswahrscheinlichkeit von [19}h{2] bezeichnet und kann unser gesamtes Vorwissen über [21}h{2]  sowie alle uns bekannten Indizien für die Wahrheit unserer Hypothese repräsentieren.	
1496 
5fae758e-31a5-49dc-a0ab-f5e304ea203a	Analogously, [1}P(D){2] expresses the prior probability that the data [3}D{2] will be observed.	Zwei weitere relevante Größen sind die Anfangswahrscheinlichkeit [1}P(D){2] der Beobachtung der Daten [3}D{2]	
1497 
e0554ac3-821f-4d6d-a8b9-d1f8fa8c7601	[1}P(D|h){2] is the probability of observing the training data [3}D{2] given that hypothesis [5}h{2] is true.	sowie die bedingte Wahrscheinlichkeit [1}P(D|h){2], dass die Daten [3}D{2] beobachtet werden, wenn die Hypothese [5}h{2] zutrifft.	
1498 
e82a5f62-bed9-4810-8bae-9d31b7db160f	To that same effect, in machine learning problems, we are interested in the posterior probability [1}P(h|D){2] that hypotheses [3}h{2] is true given the observed training data [5}D{2]. The Bayes theorem presents a way to compute this posterior probability [7}P(h|D){2] based on the prior probability [9}P(h){2] and the probabilities [11}P(D){2] and [13}P(D|h){2].	Letztlich sind wir beim maschinellen Lernens jedoch an der A-posteriori-Wahrscheinlichkeit [1}P(h|D){2] interessiert – d. h. an der Wahrscheinlichkeit, dass die Hypothese [3}h{2] unter Berücksichtigung der beobachteten Trainingsdaten [5}D{2] wahr ist. Der Satz von Bayes bietet uns die Möglichkeit, die fragliche A-posteriori-Wahrscheinlichkeit [7}P(h|D){2] auf Basis der Anfangswahrscheinlichkeit [9}P(h){2] sowie der Wahrscheinlichkeiten [11}P(D){2] und [13}P(D|h){2]zu berechnen.	
1499 
a92f865c-7c36-4194-abaf-b06cf758a6e2	It is defined as follows:	Dieses Theorem ist wie folgt definiert:	
1500 
bd313581-2d2f-4bd5-99cc-38c54d83af3d	P(h|D)=	P(h|D)=	
1501 
ce90a667-ca2f-4843-834f-e3d8c9789319	P	P	
1502 
a9434bd1-943b-4aee-8994-2fe5695fb862	(	(	
1503 
498613b2-18e2-4d81-8789-8ff2d91c192e	D	D	
1504 
64200a4c-9134-4e58-ac0a-ad4392a862c0	|	|	
1505 
8fb1c531-1b26-499c-aeb1-489f42de506a	h	h	
1506 
87c29941-7424-4687-80f2-561a69bcb438	)	)	
1507 
455d268e-f33f-42ac-bb68-dfff72e5c41b	P	P	
1508 
d06fb3f6-b15c-4b68-a3c5-485809cf514e	(	(	
1509 
7ed15489-509e-44da-88b2-16512c6ad1e3	h	h	
1510 
70922381-9b3f-482a-affe-a4f02ef1d504	)	)	
1511 
ae4ddcd3-dc5d-43cc-b38b-9585006d3b70	P	P	
1512 
eb0e1c17-ebfd-4f1a-96ec-a6c538aa4b6c	(	(	
1513 
aeb58133-5a74-4bc9-b07a-0725934abebd	D	D	
1514 
bb81488c-2698-40c0-953c-0241923d4cf1	)	)	
1515 
28bad657-8cdc-46d5-8d4e-9cb6087e64f0	Based on the Bayes theorem, the naïve Bayes classifier attempts to find the most probable hypothesis [1}h{2] from the set of all possible hypotheses [3}H{2] given the training data [5}D{2]. The result is the maximum [7}a{8][9][10}posteriori{8] hypothesis, i.e., the hypothesis with maximum probability (Mitchell, 1997).	Der naive Bayes-Klassifikator nutzt dieses Theorem, um die wahrscheinlichste Hypothese [1}h{2] aus der Menge aller möglichen Hypothesen [3}H{2] angesichts der Trainingsdaten [5}D{2] zu finden. Das Ergebnis ist die maximale [7}A-{8][9][10}posteriori{8]-Hypothese, d. h. die Hypothese mit der größten Wahrscheinlichkeit (Mitchell, 1997).	
1516 
54433a30-bb1a-45a5-ad28-88810ace7401	Naïve Bayes Classifier	Funktionsweise des naiven Bayes-Klassifikators	
1517 
aa5867d8-41f1-45cc-96a6-70c13bed122f	How the naïve Bayes classifier works can best be seen through an example.	Das Funktionsprinzip des naiven Bayes-Klassifikators lässt sich am besten anhand eines Beispiels veranschaulichen.	
1518 
7db8ce16-5b20-4609-a8f6-7dae05fbb49b	In this scenario, we want to predict whether a student will pass or fail an exam based on two criteria: invested learning effort and the student’s performance on the last exam.	In diesem Szenario wollen wir vorhersagen, ob ein Studierender bzw. eine Studierende eine Prüfung bestehen oder nicht bestehen wird, und zwar auf der Grundlage von zwei Kriterien: dem investierten Lernaufwand und dem Erfolg in der vorherigen Prüfung.	
1519 
d1ccb2c8-1015-48e5-82bc-b599d36845ff	Our training dataset consists of ten students.	Der entsprechende Trainingsdatensatz umfasst Angaben zu insgesamt zehn Studierenden.	
1520 
7e24dbd8-5093-411c-8bda-e96f0d329f04	Exam Data	Prüfungsdaten	
1521 
394bcc5d-f1fa-48f1-b7fa-c0ca599b8ad0	Hofer (2021).	Hofer (2021).	
1522 
2426cf91-e704-47cc-8b89-e9e737b7520e	Student	Identifikations-	
1523 
41bb918e-a016-4ed1-8e72-1dc801c4b98a	number	nummer	
1524 
4f56993c-48b8-447a-95e2-6d67aa640485	Studying effort invested	Investierter Lernaufwand	
1525 
896846a8-0bee-4c22-a243-4a1cb67973df	Passed prior exam	vorherige Prüfung bestanden	
1526 
f4bbaec1-aa10-4992-a6a2-f28638bea90c	(1 = yes; 0 = no)	(1 = ja; 0 = nein)	
1527 
b446d8a4-0126-475f-9370-e043138f44e3	Passed latest exam	aktuelle Prüfung bestanden	
1528 
fa1ce389-1316-487d-b929-c4adcd789522	(1 = yes; 0 = no)	(1 = ja; 0 = nein)	
1529 
3e2eb7e0-de12-4385-a0f0-a72076e47452	1	1	
1530 
f63dc7f9-e893-4131-9c1c-2bcf36d47ce1	low	niedrig	
1531 
19df23fd-2147-4810-bc40-b906dafdf2d0	0	0	
1532 
5b3cf673-3429-4dd3-8515-dcbe0f1bf0f4	0	0	
1533 
557e8f24-96e3-4840-b2a7-35f5873c9ef1	2	2	
1534 
ead35de7-1a52-40e9-b1a8-18a627eea73e	medium	mittel	
1535 
70e5174b-8075-4606-8888-23cdd68b60e7	1	1	
1536 
f2a08f8f-66a0-4305-9209-082c516dd1dd	1	1	
1537 
dbe85e33-2be6-4865-ada6-9e661877eb35	3	3	
1538 
f5a79486-c918-4da1-9df9-333e93c08ee4	high	hoch	
1539 
3a263da5-3ae9-466f-a6b8-5da2bae70026	1	1	
1540 
8555ba60-ad22-4d03-99b0-6fad7162fd00	1	1	
1541 
fb3771da-c330-476f-8f9d-bece1bac83ac	4	4	
1542 
09fc3e9d-39c6-4623-b9d0-2c5148bdf5d8	low	niedrig	
1543 
8e503601-2909-431b-9754-a214fd3470b2	0	0	
1544 
7546e41a-c229-403f-8cd9-db5440b6db13	0	0	
1545 
705f6d74-2f4d-477b-b105-c111680bce3c	5	5	
1546 
c4dc5798-6512-4379-8393-d362cf553653	high	hoch	
1547 
bbfdbb9b-379c-423a-a26b-b630e8574c38	1	1	
1548 
5c46c35b-d628-4055-8bef-4955c8eb57fd	1	1	
1549 
5e929fd6-2d6d-42e3-a78b-d61a8683bf7e	6	6	
1550 
e8cb7175-ee77-41af-8987-e31d81481ee8	high	hoch	
1551 
ef68f2f4-8c1e-47bd-aac3-ab475929dd18	1	1	
1552 
92fd4688-c768-4ab2-849e-da8f7d7d6ba4	1	1	
1553 
27532ec2-6e45-47fc-b700-a98de8cbf2aa	7	7	
1554 
20e6df5c-59fb-4522-b313-e38d240a6e7e	medium	mittel	
1555 
ee6f2086-ba75-4b52-9914-45c03b4abcea	1	1	
1556 
d141097a-898c-4f5c-bfe6-075e4b0cb815	1	1	
1557 
83347ab4-d068-4461-9f88-3d25b640205e	8	8	
1558 
0b6a59a5-8dd7-4c2e-9ef5-99bc3bf1c17d	medium	mittel	
1559 
a0826acc-f463-48d1-9dd2-507b89c06f23	1	1	
1560 
8bdd08ce-b20d-495f-a773-c64735f9905b	0	0	
1561 
f1d837a8-7c0f-48bc-8b6e-8002adbd3c04	9	9	
1562 
655e723e-5130-47ac-92df-4d52a672b6cf	high	hoch	
1563 
314050d2-11f2-4e6f-84da-52c18b8d582b	1	1	
1564 
d3b2a8f0-5ef8-42d6-9a84-2d50b1ce5d04	1	1	
1565 
85920992-015e-448e-8f7d-5b8e0c458148	10	10	
1566 
05f94538-882e-4caa-9fa2-b253f1d4d428	medium	mittel	
1567 
bfe5a295-70eb-4aa5-873b-e79d691c388e	0	0	
1568 
8d8bceb2-fcbf-4bfb-be94-92cecd193903	1	1	
1569 
0cfdd80c-275b-462f-afae-79dc74bcee92	﻿We derive the initial guesses for the two hypotheses from the distribution of the training data:	Im Folgenden leiten wir aus der Verteilung dieser Trainingsdaten Anfangsschätzungen für die nachstehenden Hypothesen ab:	
1570 
fec871d3-e475-4aef-aa3e-ca378e8f229c	[1}h{2] means that the student passes the upcoming exam.	[1}h{2] bezeichnet die Hypothese, dass der/die Studierende die anstehende Prüfung besteht.	
1571 
6fa6dc04-fbd5-4db0-954d-6a9e5bb8bf7e	[1}h’{2] means that the student fails the upcoming exam.	[1}h'{2] bezeichnet die Hypothese, dass der/die Studierende die anstehende Prüfung nicht besteht.	
1572 
b2d07665-a302-4d96-9da3-9cf1d7685236	Among the students, seven successfully passed the exam and three failed.	Von den zehn Studierenden haben sieben die Prüfung erfolgreich bestanden, drei dagegen nicht.	
1573 
365c180e-7abc-4875-9ddb-4d156641a920	Hence, we obtain the prior probability of passing the exam [1}P(h)=0.7{2] and the prior probability of failing is [3}P(h')=0.3.{2]	Daraus ergibt sich eine A-priori-Wahrscheinlichkeit für das Bestehen der Prüfung von [1}P(h)=0,7{2] und eine A-priori-Wahrscheinlichkeit für das Nichtbestehen von [3}P(h')=0,3.{2]	
1574 
f433f549-2aa2-4dd0-8ef9-1dd9f659d394	We can now calculate the other initial probabilities as follows:	Außerdem können wir für die anderen Anfangswahrscheinlichkeiten die folgenden Werte ermitteln:	
1575 
b5d8ce9b-53d1-4646-b156-cde984cb5f00	Studying effort is low, medium, or high, given the student passed the exam:	Die bedingte Wahrscheinlichkeit für einen niedrigen, mittleren oder hohen Lernaufwand, wenn die aktuelle Prüfung bestanden wurde:	
1576 
1f3256bf-0e99-47fc-b6d4-534a4f7f63d9	P(low|h) = #(low and pass)/#(low total) = 0/2 = 0.0	P(niedrig|h) = n(niedrig und bestanden)/n(niedrig insgesamt) = 0/2 = 0,0	
1577 
78a1244a-09fb-4476-9591-89bfba26b9c4	P(medium|h) = #(medium and pass)/#(medium total) = 3/4 = 0.75	P(mittel|h) = n(mittel und bestanden)/n(mittel insgesamt) = 3/4 = 0,75	
1578 
a8699cea-3185-4039-a6da-190a383f1117	P(high|h) = #(high and pass)/#(high total) = 4/4 = 1.0	P(hoch|h) = n(hoch und bestanden)/n(hoch insgesamt) = 4/4 = 1,0	
1579 
c78bcd23-7839-437f-8526-360baf89e28a	Studying effort is low, medium, or high, given the student failed the exam:	Die bedingte Wahrscheinlichkeit für einen niedrigen, mittleren oder hohen Lernaufwand, wenn die aktuelle Prüfung nicht bestanden wurde:	
1580 
2a07ecab-67a1-405a-960d-fb191573bedd	P(low|h') = #(low and not pass)/#(low total) = 2/2 = 1.0	P(niedrig|h') = n(niedrig und nicht bestanden)/n(niedrig insgesamt) = 2/2 = 1,0	
1581 
e8e294b1-281e-47e8-aa76-92070e39364e	P(medium|h') = #(medium and not pass)/#(medium total) = 1/4 = 0.25	P(mittel|h') = n(mittel und nicht bestanden)/n(mittel insgesamt) = 1/4 = 0,25	
1582 
939eff28-2d01-4c91-99b5-eb580d407b00	P[1}(high|h') = #(high and not pass)/#(high total) = 0/4{2]	P[1}(hoch|h') = n(hoch und nicht bestanden)/n(hoch insgesamt) = 0/4{2] = 0	
1583 
94587e43-fe34-488e-8682-4dd39d3088af	Passed the prior exam 1/0, given the student passed the latest exam:	Die bedingte Wahrscheinlichkeit, dass die vorangegangene Prüfung erfolgreich (1) bzw. nicht erfolgreich (0) war, wenn die aktuelle Prüfung bestanden wurde:	
1584 
97741fc8-0ef4-4d9a-a03a-359854a6dc74	P(1|h) = #(1 and pass)/#(1 total) = 6/7 = 0.86	P(1|h) = n(1 und bestanden)/n(1 insgesamt) = 6/7 = 0,86	
1585 
c6183a36-5dbf-425b-ae57-0ea1c611e041	P(0|h) = #(0 and pass)/#(0 total) = 1/3 = 0.33	P(0|h) = n(0 und bestanden)/n(0 insgesamt) = 1/3 = 0,33	
1586 
ec825370-b20b-48f6-8925-dbe7ca615053	Passed the prior exam 1/0, given the student failed the latest exam:	Die bedingte Wahrscheinlichkeit, dass die vorangegangene Prüfung erfolgreich (1) bzw. nicht erfolgreich (0) war, wenn die aktuelle Prüfung nicht bestanden wurde:	
1587 
5784ed06-be9f-4a2c-999d-a74a148396f7	P(1|h') = #(1 and not pass)/#(1 total)= 1/7 = 0.14	P(1|h') = n(1 und nicht bestanden)/n(1 insgesamt)= 1/7 = 0,14	
1588 
f78177f8-64c3-46a9-b2b3-dfb6e6b529d1	P(0|h') = #(0 and not pass)/#(0 total) = 2/3	P(0|h') = n(0 und nicht bestanden)/n(0 insgesamt) = 2/3	
1589 
b2a59516-4144-4101-99fb-040d9e2a2b9b	Now suppose we want to predict whether a student, who has invested little studying effort and also failed the previous exam, will pass.	Nehmen wir nun einmal an, wir wollen vorhersagen, ob ein:e Prüfungskandidat:in die aktuelle Prüfung bestehen wird, wenn er/sie nur wenig Lernaufwand betrieben und überdies die vorherige Prüfung nicht bestanden hat.	
1590 
bc30ec54-5ca9-460c-b02f-53a0742ea989	Using Bayesʼ theorem, we calculate the following posterior probabilities:	Für diesen Fall errechnen wir mit dem Satz von Bayes die folgenden Wahrscheinlichkeiten:	
1591 
7f4f9204-a6f4-414e-ac54-e5eec5929c9b	P	P	
1592 
a27f8b38-89b1-41fa-ad26-3bb831169e55	(	(	
1593 
09e9eed1-13fb-46d6-9eb6-f8344fc6e8f0	h	h	
1594 
00d90ef7-25f4-4ed4-9367-dcefff7524ce	|	|	
1595 
13ee6afb-8a3e-445b-a861-a94960645aa4	D	D	
1596 
0ca3ca96-4ada-4d50-b8b4-fdadbd062bdc	)	)	
1597 
5de79065-1ea9-4d41-a7d4-b645f3f7eb25	=	=	
1598 
fc8108da-cad1-4fcb-9462-e23b84ffb7f8	P	P	
1599 
8cf76212-e4fd-4724-97d7-59dc8c3013c8	(	(	
1600 
d062a111-6b42-452f-94af-1e999d14c9f6	l	l	
1601 
7df32320-e9d8-41a6-8018-06a6ea892121	o	o	
1602 
f4232118-cc8f-4159-8ffe-856d57445cf6	w	w	
1603 
0c2fdce3-706c-4664-95e1-0b410bb1091d	|	|	
1604 
50ead48f-b41a-40c9-ac98-3324a1e64c02	h	h	
1605 
7d477cdd-3743-4302-b22f-7d8dedfe191c	)	)	
1606 
461f02f5-5b8d-4bb3-ac92-668e6f2f6228	*	*	
1607 
33c5a3c1-1da5-4688-ad0c-c005113a4992	P	P	
1608 
2866504d-a477-4274-a1b9-d43a9577d1b0	(	(	
1609 
7ff18709-34f4-4423-b896-d20e10d764eb	0	0	
1610 
3eee3862-12d7-4d79-a240-66c4067758e7	|	|	
1611 
9fea4665-2458-423e-8f3c-5f79784153a8	h	h	
1612 
cf40e637-31d3-4bdb-a83c-c5055dd40cb5	)	)	
1613 
75d96093-c6b9-4a69-b74b-2aa2b6a027ba	*	*	
1614 
a0139c67-28ed-400f-acf9-8cc5ec6b2bed	P	P	
1615 
2e3df254-c8dc-427f-8382-f67d4577a3df	(	(	
1616 
411fa5de-ff7d-405d-8e74-ee38bd8b8ec5	h	h	
1617 
e0df62f3-b21d-4af8-8804-3698c79ed094	)	)	
1618 
1f600e9a-93c8-4788-b63e-5c0e7f16b41c	P	P	
1619 
39f573d7-aa76-4cae-9fec-a1a0d9bdb6dd	(	(	
1620 
480c10dd-d60f-4039-9b08-b7e0e2c1ffd3	D	D	
1621 
eb0cdb08-ef54-4b9f-976e-c90347bbfeeb	)	)	
1622 
c706712f-ed76-4a83-92a2-5b22d3fe46d3	=	=	
1623 
a14a8dd1-662a-49d1-946a-93720ddbae7d	0.0	0,0	
1624 
62b9cad1-4b7e-4c0a-8a19-fde364de0478	*	*	
1625 
944b2a2d-3805-4b49-8072-4f6b1fee54a3	0.33	0,33	
1626 
6e3e9aa6-c468-477e-b559-52546c61cebf	*	*	
1627 
5ee31b57-bea4-4393-addd-fa6e849d500a	0.7	0,7	
1628 
cc523217-fce0-4283-8560-9397be30d9f5	=	=	
1629 
bfa39217-15a0-4f4c-b5d2-dbe37fe79c7c	0.0	0,0	
1630 
b77eebd6-88d7-4ee8-9436-39217f85d9bb	P	P	
1631 
b6c2390c-71b8-44ea-978b-90f6d4183f82	(	(	
1632 
347bbb8c-b17e-4006-b21e-514a3a69fa1c	h	h	
1633 
f009bc94-6f62-4846-a9a7-54302ebc8a04	'	'	
1634 
0dfedc24-35d9-46dc-b8e1-8ad09174baef	|	|	
1635 
9cec465b-8f5f-423d-bc32-e3971a6de6a1	D	D	
1636 
f34d37f6-44df-4864-8ae4-6d3047d65228	)	)	
1637 
0f372e1d-f395-40ad-a3ab-50915dd03c94	=	=	
1638 
1346e27b-e7ce-4a25-a361-7fe8e1fc1451	P	P	
1639 
ebe1700f-7df7-4832-bea8-49cd0c1e1570	(	(	
1640 
9ac2bd80-a3dc-420a-9186-cdaf8dcfb5e4	l	l	
1641 
cc497e3e-2472-4939-8265-fa562279b135	o	o	
1642 
19cb7b9f-fb6f-4e35-8de8-e0b0c3eed328	w	w	
1643 
871cc7e6-0446-4d21-b3c5-cd5663e3229a	|	|	
1644 
0de3e678-acbd-4c34-9316-6b965fa1a5a1	h	h	
1645 
5194a482-064e-421c-940b-d08710e6f45e	'	'	
1646 
edeb2bc9-fe84-4aca-a983-ab477006dc3d	)	)	
1647 
86d51cfd-6c79-45fd-9a5e-de7e7f3a6c03	*	*	
1648 
afe8af5a-8d78-4369-a021-91354410bcff	P	P	
1649 
a9cfad8f-e596-4c64-862c-1f4ae7dad5eb	(	(	
1650 
761075da-a89b-4f19-a5b2-3a93a7ea8a2b	0	0	
1651 
890811d6-d86d-4f32-afec-d6c139afc452	|	|	
1652 
cc6780ab-571a-48dd-8dd9-a0242bf4abaa	h	h	
1653 
8458a5e7-5d4c-45a3-ba68-b609a340c1ad	'	'	
1654 
e35e9be4-2569-4063-96be-aaf6faebaec4	)	)	
1655 
95438104-6126-4084-bfd6-78c87cce0dea	*	*	
1656 
483c15e1-1f9f-4fcb-ba43-e7c30a2c6194	P	P	
1657 
e01e1720-9503-4b8d-82b4-e835888e2c5d	(	(	
1658 
f75c212e-92fc-460b-a443-466bb11379cd	h	h	
1659 
7b9c4443-26a0-4bef-ab12-20cbb0b3f145	'	'	
1660 
3faa8846-b005-4636-8dd0-519c66155447	)	)	
1661 
07da39cc-eb9c-4b67-a029-21874ddc1077	P	P	
1662 
ec6b625f-b3ed-417c-9238-ac73b4d86d36	(	(	
1663 
e372bb5c-8dc8-4ef2-a5eb-ed39e84ae098	D	D	
1664 
b9e42394-737c-48a9-84ad-4432c3cd8fdc	)	)	
1665 
08c48cfd-388d-458a-ae83-0ada91ee911f	=	=	
1666 
12b1dcb5-61e0-45a0-acc4-0a6770c84a7d	1.0	1,0	
1667 
387ebfed-0ce5-4205-ae84-6f2d13aa7253	*	*	
1668 
919fef2e-2ff7-4b53-b9ca-14579ff30b88	0.66	0,66	
1669 
1bc96fd9-673e-41c9-ba4a-da071745ab1c	*	*	
1670 
39de8b28-6e38-4562-a50d-e9e7f1a29d1c	0.3	0,3	
1671 
45a01be0-daa4-42e0-a60f-f513de235c44	=	=	
1672 
2fc2a98c-e7c0-405b-b781-7c6767f084fc	0.2	0,2	
1673 
c359f403-86e5-48df-a574-0b1fadd121d5	Note that we can drop [1}P(D){2], as it is constant and independent of the hypotheses.	Dabei ist zu beachten, dass wir [1}P(D){2]weglassen können, da dieser Wert konstant und unabhängig von den Hypothesen ist.	
1674 
56fd6326-10f0-47dc-864c-c3d0706ced89	Since the posterior probability of failing the exam is larger, with [1}P(h’|D) = 20%{2], the naïve Bayes classifier predicts that the student will indeed fail.	Zugleich zeigt sich, dass die A-posteriori-Wahrscheinlichkeit, die Prüfung nicht zu bestehen, mit [1}P(h'|D) = 20 %{2] deutlich größer ist. Somit sagt der naive Bayes-Klassifikator voraus, dass der betreffende Student bzw. die betreffende Studentin in der anstehenden Prüfung keinen Erfolg haben wird.	
1675 
cd7b1d5d-e5b6-4d1b-968c-d136829946bf	Application	Implementierung in Python	
1676 
13b85f46-42ea-4c5e-b6f8-25b001cf9d46	With Gaussian naïve Bayes, we will see how perhaps the simplest naïve Bayes classifier can be used with Python.	Der wohl einfachste naive Bayes-Klassifikator in Python firmiert unter der Bezeichnung GaussianNB	
1677 
3870e7a6-804b-405d-9eea-1a567edc6aac	For this purpose, we will continue with our previous student example.	(und basiert, wie der Name schon sagt, auf der Annahme, dass die Labeldaten einer einfachen Gaußverteilung folgen).	
1678 
18d3c27b-4744-4ffe-b203-448bd5d0884d	This classifier assumes that the data from each label are drawn from a simple Gaussian distribution.	Um seine Anwendung zu demonstrieren, greifen wir das Beispiel mit den Prüfungskandidat:innen erneut auf.	
1679 
e9ad5fe2-f0d3-4370-a797-53b354f189e2	We start with importing the necessary libraries.	Unser Implementierungsprozess beginnt mit dem Import der erforderlichen Bibliotheken.	
1680 
da8b5eb3-d8bc-4f22-ba5d-0aff456eb1f9	Code	Code	
1681 
43a1f271-301c-4091-9134-ca1f64696089	import pandas as pd[1]from sklearn.naive_bayes import GaussianNB	import pandas as pd[1]from sklearn.naive_bayes import GaussianNB	
1682 
9cab8c03-f1e5-4f07-97c7-2896940d7f19	﻿We load the training data and print it.	Anschließend laden wir die Trainingsdaten und geben sie auf der Konsole aus.	
1683 
875bbfb8-af9e-4119-8c35-ac0fa1f5a8d7	Code	Code	
1684 
d4f74d88-7b0b-4b2c-afa4-5e175b265dd4	exam_data = pd.read_csv('bayes_data.csv', sep=';')[1]print(exam_data.head(10))	exam_data = pd.read_csv('bayes_data.csv', sep=';')[1]print(exam_data.head(10))	
1685 
aa170a18-1727-40d5-9bd4-1e09af3f3ce5	﻿We get the following console output after executing the print command.	Der so erzeugte Output stellt sich folgendermaßen dar:	
1686 
a630cea6-7fd0-42fe-986c-ab20f4763027	Code	Code	
1687 
abe250cc-2271-4506-8876-f15711b9c2f3	Student No. Invested effort Passed last exam Passed[1]0           1            low                0      0[1]1           2         medium                1      1[1]2           3           high                1      1[1]3           4            low                0      0[1]4           5           high                1      1[1]5           6           high                1      1[1]6           7         medium                1      1[1]7           8         medium                1      0[1]8           9           high                1      1[1]9          10         medium                0      1	Student No. Invested effort Passed last exam Passed[1]0           1            low                0      0[1]1           2         medium                1      1[1]2           3           high                1      1[1]3           4            low                0      0[1]4           5           high                1      1[1]5           6           high                1      1[1]6           7         medium                1      1[1]7           8         medium                1      0[1]8           9           high                1      1[1]9          10         medium                0      1	
1688 
930fbc49-99d0-467e-8378-c5d2cc881304	﻿Next, we separate the labels from the features and dummy encode the feature “Invested effort” so that it can be processed by the model.	Danach trennen wir die Labels von den Merkmalen und codieren das Merkmal "Investierter Aufwand" als Dummy-Variable, damit es vom Modell verarbeitet werden kann.	
1689 
efc787eb-9bbd-4b27-ace8-5d75399de774	Code	Code	
1690 
51c4ee97-88ed-48f3-bb97-242cfb7078f8	X = exam_data.drop(columns=\['Passed'])[1]y = exam_data\['Passed'][1]X = pd.get_dummies(X)	X = exam_data.drop(columns=\['Passed'])[1]y = exam_data\['Passed'][1]X = pd.get_dummies(X)	
1691 
7b4cfd3d-385c-43a3-8378-5eb36dc4beed	﻿Now, we initialize and train an instance of the Gaussian naïve Bayes.	Im nächsten Schritt initialisieren und trainieren wir eine Instanz des GaussianNB-Klassifikators.	
1692 
36b1e4f5-6654-4f54-bf12-f4bf2aeafeda	Code	Code	
1693 
9b9eec4e-ad19-40ec-9070-4239f29f3867	model = GaussianNB()[1]model.fit(X, y)	model = GaussianNB()[1]model.fit(X, y)	
1694 
773484a5-8e28-4a92-96dc-90ecdbe98155	﻿Now we generate predictions for the following three new observations to test the prediction performance of the trained classifier.	Um die Vorhersageleistung des trainierten Klassifikators zu testen, möchten wir nun Vorhersagen für die folgenden drei neuen Beobachtungen erstellen.	
1695 
268aa855-e09b-44a6-b17c-42c6ea3632f4	Code	Code	
1696 
1063bdf0-7694-4fba-9d74-8da5474cbabc	Student No. Invested effort Passed last exam Passed[1]0          11            low                0      0[1]1          12         medium                0      1[1]2          13           high                1      1	Student No. Invested effort Passed last exam Passed[1]0          11            low                0      0[1]1          12         medium                0      1[1]2          13           high                1      1	
1697 
a89c5ab8-d9fa-45b5-b4c4-6a5901893bf0	﻿We load and prepare the test data.	Zu diesem Zweck laden wir die Testdaten und bereiten sie entsprechend auf.	
1698 
1272ef5b-73a9-4750-a5f0-9abd5e473ddd	Code	Code	
1699 
c41560dc-c161-4f8d-89ba-4bd16865b1cf	test_data = pd.read_csv('bayes_test_data.csv', sep=';')[1]X_test = test_data.drop(columns=\['Passed'])[1]y_test = test_data\['Passed'][1]X_test = pd.get_dummies(X_test)	test_data = pd.read_csv('bayes_test_data.csv', sep=';')[1]X_test = test_data.drop(columns=\['Passed'])[1]y_test = test_data\['Passed'][1]X_test = pd.get_dummies(X_test)	
1700 
a51041d2-46e9-4f70-a424-9ba2dff0baf1	﻿To generate and print the predictions, we execute the following commands.	Daraufhin führen wir die folgenden Befehle aus, um die gewünschten Vorhersagen zu erstellen und auf der Konsole auszugeben.	
1701 
bb3ebb4b-cb19-4aea-b1e8-5876e17b91c5	Code	Code	
1702 
965be0e1-e092-44e3-b33d-3e0079bdfd0f	y_pred = model.predict(X_test)[1]print('Prediction results:')[1]print(y_pred)	y_pred = model.predict(X_test)[1]print('Prediction results:')[1]print(y_pred)	
1703 
d04520b4-82f7-4a8a-836f-deeceedb9e7b	﻿We receive the following output that contains the prediction results.	Dadurch erhalten wir den nachstehenden Output.	
1704 
37575cd5-623f-4085-b7b0-cc9ec45c51ce	Code	Code	
1705 
5dc8af72-7c75-4a2d-ba64-fc33cf192fe1	Prediction results:[1]	Prediction results:[1]	
1706 
13fb72ad-b3c2-40ac-b739-bc3aba86ce9f	\[0 1 1]	\[0 1 1]	
1707 
6982888d-b6cc-4de3-9d98-c3bab099afc0	﻿From the output shown above, we can see that the trained model correctly predicted the passing or failing of the three students.	Aus diesen Ergebnissen geht hervor, dass das trainierte Modell den Prüfungserfolg der drei Studierenden korrekt vorhersagt.	
1708 
9ae505b1-0e01-4e1b-9bbe-84ee8517b3db	Difficulties of Bayesian Learning Methods	Schwierigkeiten bei der praktischen Anwendung der Bayes'schen Lernmethoden	
1709 
30e4643f-af7f-4cfe-8221-48ce9d16f80c	The naïve Bayes classifier and Bayesian learning methods generally have two practical difficulties of note.	Die Anwendung des naiven Bayes-Klassifikators und der Bayes'schen Lernmethoden im Allgemeinen ist in der Praxis oft mit zwei eklatanten Schwierigkeiten verbunden.	
1710 
21a09962-77ac-4d4e-b87f-1b940ea5501d	First, Bayesian methods require initial knowledge about the various probabilities.	Erstens erfordern die Bayes'schen Methoden die Angabe von Anfangswahrscheinlichkeiten,	
1711 
fbd07f53-6151-4c1e-9294-71cd9785ec42	In practice, this can sometimes be hard to manage.	die jedoch mitunter schwer zu bestimmen sind	
1712 
3c6c6b19-7f4e-4d0e-b1c5-c16d69637715	If these probabilities are not known beforehand, they are often approximated based on domain, background knowledge, or assumptions made concerning the underlying distributions (i.e., just as with generalized linear models).	und deshalb häufig auf der Grundlage von Fach- oder Hintergrundwissen oder (genau wie bei verallgemeinerten linearen Modellen) auf der Basis von Annahmen über die zugrunde liegenden Verteilungen approximiert werden.	
1713 
b0fc4898-5501-44c9-9523-166e2c008bd1	The second practical difficulty is the considerable computational cost required to determine the optimal hypothesis (Mitchell, 1997).	Die zweite praktische Schwierigkeit ist der erhebliche Rechenaufwand, der zur Ermittlung der optimalen Hypothese erforderlich ist (Mitchell, 1997).	
1714 
b085cacb-9589-44cd-b3a7-ab98b27cec7c	Self-Check Questions	Fragen zur Selbstkontrolle	
1715 
94a2c397-a03a-4de3-ab97-09a99a81dd87	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
1716 
1309b74b-0d4f-4665-b0f9-bf25b808f196	is perhaps the simplest naïve Bayes classifier.	ist der wohl einfachste naive Bayes-Klassifikator in Python.	
1717 
7d9c47f9-1aa8-40ed-b760-7438e503b07a	Gaussian naïve Bayes	GaussianNB	
1718 
995c6d21-9546-4946-865d-659fbf410c83	Summary	Zusammenfassung	
1719 
ca91a80b-0785-498d-bedd-15eca2c6bd69	Classification models represent a type of supervised machine learning where the label to be predicted is a pre-determined number of categorical classes.	Klassifizierung ist eine überwachte Lernmethode, bei der die vorherzusagenden Labels auf vordefinierten Kategorien basieren.	
1720 
f65b1140-e157-4ef3-9022-df0bb988085d	The classification algorithm learns the characteristics of the classes provided in the training dataset and is then able to apply this knowledge to previously unseen observations.	Ein Klassifizierungsalgorithmus lernt also die Merkmale der im Trainingsdatensatz enthaltenen Klassen und ist dann in der Lage, dieses Wissen  auf neue Beobachtungen (außerhalb des Trainingsdatensatzes) anzuwenden.	
1721 
7143a236-e73c-4d93-a83f-14e0765f6e38	Classifiers are trained using either a lazy learner or an eager learner.	Als Grundlage dient dabei entweder eine Lazy-Learning- oder eine Eager-Learning-Trainingsmethode.	
1722 
4a4f1ad5-d59a-4ae3-892a-a495a07ee54e	Lazy learners perform only minimal training, sometimes none at all.	Beim Lazy-Learning ist der Trainingsprozess äußerst kurz oder entfällt mitunter sogar ganz.	
1723 
039671bf-acfb-49a1-acf9-29aa821828ca	Lazy learners usually store the training dataset until they receive the test dataset or the observation to be classified.	Dementsprechend speichern Lazy-Learning-Algorithmen normalerweise den Trainingsdatensatz, bis sie den Testdatensatz oder die zu klassifizierende Beobachtung erhalten.	
1724 
2d49f7b6-e22e-4b92-b575-1a05728fbead	Eager learners, which require less computation time to make a prediction, have a longer training phase than do lazy learners.	Im Vergleich benötigen Eager-Learning-Klassifizierungsalgorithmen weniger Zeit, um eine Vorhersage zu treffen, durchlaufen jedoch eine längere Trainingsphase als Lazy-Learning-Klassifikatoren.	
1725 
e9dd6061-2ae9-4ee0-a23d-d29b2ac728fb	The k-nearest neighbor algorithm is an example of a lazy learner.	Zur letzteren Gruppe gehört unter anderem der k-Nearest-Neighbors-Algorithmus,	
1726 
99ac1f57-59f4-4889-a9c5-2d8e3cd054b4	The idea behind nearest neighbor classification is to derive a prediction for one observation by using a number of similar observations from the training dataset.	 der eine Vorhersage für eine ihm bisher unbekannte Beobachtung erstellt, indem er im Trainingsdatensatz ähnliche Beobachtungen ausfindig macht und als Grundlage für seine Schätzung nutzt.	
1727 
09e27349-f048-415b-8c95-60ae98b8a396	A Bayesian classifier, an eager learner, provides a probabilistic approach to inference and bases itself on the “naïve” assumption that the distributions of the features are independent of each other.	Dagegen zählt der Bayes-Klassifikator zu den probabilistischen Eager-Learning-Algorithmen und basiert auf der "naiven" Annahme, dass die Verteilungen der berücksichtigten Merkmale voneinander unabhängig sind.	
1728 
4fce8448-c159-4dca-8fab-11fb5894b8b0	Support Vector Machines	Stützvektormaschinen (SVM)	
1729 
08884b23-96a8-4549-8741-5258757db7bc	Support Vector Machines	Stützvektormaschinen (SVM)	
1730 
e6324371-c769-4040-ab13-a68f951a6355	Study goals	Lernziele	
1731 
ef5f1897-6461-4c0f-a8f8-ae53edaaf9b8	On completion of this unit, you will be able to …	Nach Abschluss dieser Lektion werden Sie in der Lage sein, ...	
1732 
7f38e8c1-232e-468e-a448-4293f5e0b8ad	explain the concept of large margin classification.	das Grundprinzip der Klassifizierung mit möglichst breiter Trennung der Merkmalsräume (large margin classification) zu erläutern.	
1733 
44e9fd6b-288a-4fcd-b179-a37b4818fffc	conceptualize a large margin classifier with support vector machines.	Large-Margin-Klassifikatoren mithilfe von Stützvektormaschinen zu erstellen.	
1734 
79cddc03-b4c1-424e-91a4-0d5a389e36c6	explain and make use of the kernel trick.	den Kernel-Trick zu erklären und anzuwenden.	
1735 
3c482613-70ab-404e-9155-4d5c294cabde	apply support vector machines with the use of Python.	Stützvektormaschinen in Python zu implementieren.	
1736 
87ee0dfb-c2d4-4498-9aef-89e3486c3f14	Introduction	Einleitung	
1737 
4666e4f5-5830-4625-a834-5281fe0c04e1	Support vector machines (SVM), which can perform both classification and regression tasks, are among the most popular and powerful supervised learning algorithms in existence.	Stützvektormaschinen (engl. support vector machines, SVMs) können sowohl Klassifizierungs- als auch Regressionsaufgaben erfüllen  und gehören derzeit zu den gängigsten und leistungsfähigsten Algorithmen des überwachten Lernens.	
1738 
fefd3534-016a-4f80-b91d-247bd9d2ccbb	The idea behind SVMs is to divide the data into two classes separated by a classification boundary in an[1} n{2]-dimensional space called a hyperplane.	Das Verfahren basiert auf der Einpassung einer Klassifizierungsgrenze in den [1}n{2]-dimensionalen Vektorraum der Trainingsdaten.	
1739 
fbd4ed78-c3fc-477a-8982-dd0228d7ab7c	A hyperplane is a subspace within a vector with one less dimension (Vapnik, 2000).	Dabei wird die betreffende Grenze als Hyperebene bezeichnet und bildet einen um eine Dimension kleineren Unterraum innerhalb des Vektorraums (Vapnik, 2000).	
1740 
644d8fb8-81a5-49f0-89dc-800be45b4e0f	New observations are assigned to one or the other class depending on which side of the hyperplane they are located.	Neue Beobachtungen werden dann je nachdem, auf welcher Seite der Hyperebene sie sich befinden, der einen oder der anderen Klasse zugeordnet.	
1741 
50e18ffa-dd8c-4393-9951-472653785ac8	This is illustrated in the following figure.	Dieses Prinzip wird in der folgenden Abbildung illustriert.	
1742 
ba8a2ea7-dac8-48e1-beca-0c91f2c6bfde	Different Hyperplanes to Divide the Dataset	Verschiedene Hyperebenen zur Unterteilung des Datensatzes	
1743 
6689e15c-b0f7-418b-a74f-cac913b0c4ee	Hofer (2021).	Hofer (2021).	
1744 
bb268b1a-a8d5-4fac-bbe9-d2c4c94b1778	[1]	[1]	
1745 
730a54ce-4a11-4c5c-b53f-027465d69d37	As this figure makes visible, there is more than one way to divide the data into two classes by means of a hyperplane.	Hier wird deutlich, dass es mehr als eine Möglichkeit gibt, einen Datensatzmithilfe einer Hyperebene in zwei Klassen aufzuteilen.	
1746 
5c453443-822b-41de-b6ac-cebc12aa9034	SVMs understand this and, rather than opting for any hyperplane arbitrarily, they choose one where the distance between the two classes is maximized.	SVMs tragen dieser Tatsache Rechnung und bestimmen stets diejenige Hyperebene, die die beiden Klassen möglichst eindeutig voneinander trennt.	
1747 
466b0ea9-1b00-428c-b4b2-5b9823539ca9	For this reason, SVMs are also called large margin classifiers.	Aus diesem Grund werden SVMs auch als Large-Margin-Klassifikatoren bezeichnet.	
1748 
e96be425-80dd-4d96-b6ce-ab24f495e01e	The following figure illustrates this and provides an example of a hyperplane that separates the dataset and for which the margin between classes is at its maximum.	Die nachstehende Abbildung zeigt ein Beispiel für eine Hyperebene, die einen Datensatz so aufteilt, dass der Abstand zwischen den Klassen möglichst breit ist.	
1749 
28186d28-0aa8-4324-a34e-c6c162c1e526	This type of hyperplane is known as the optimal choice.	Diese Art von Hyperebene wird als die optimale Wahl bezeichnet.	
1750 
67f60ad0-3626-4703-8371-17a30c00145d	Different Hyperplanes to Divide the Dataset	Verschiedene Hyperebenen zur Unterteilung eines Datensatzes	
1751 
7edbd09a-3b5b-49e2-b940-02fe429a29d8	Hofer (2021).	Hofer (2021).	
1752 
5f9d1c59-fa3e-42ee-8fb8-87d9a4af4d5e	[1]	[1]	
1753 
4edff850-7637-4225-82de-fb6411d1fcdb	Many linear models used for either classification or regression face some significant shortcomings, e.g., the data starting to have more overlapping features or the classes no longer being linearly separable by a linear hyperplane or decision boundary.	Dieser Ansatz bietet entscheidende Vorteile gegenüber vielen linearen Klassifizierung- und Regressionsmodelle, die erhebliche Mängel aufweisen, wenn die Daten beispielsweise zahlreiche überlappende Merkmale umfassen oder die Klassen nicht mehr durch eine lineare Hyperebene oder eine andere lineare Entscheidungsgrenze trennbar sind.	
1754 
e9e3f876-c430-4dbd-bf81-7c4f4446c269	SVMs are capable of overcoming these shortcomings and can be used for both linear and nonlinear classification.	SVMs sind in der Lage, diese Unzulänglichkeiten zu überwinden und können sowohl für die lineare als auch für die nichtlineare Klassifizierung verwendet werden.	
1755 
915104a5-8dfa-4ed7-a831-e872c7ded7fe	For this purpose, SVMs make use of a specific trick: the	Zu diesem Zweck bedienen sie sich des sogenannten	
1756 
34333f0d-1f86-4e29-b6c8-b173bd31f538	kernel	Kernel-	
1757 
3da2fc0d-fd41-40c9-b3dd-8eed08b25815	Kernel	Kernel	
1758 
10a259e9-c493-458c-a21d-77d88ebdffe8	A kernel is a class of algorithms that is used to map data into a higher dimensional space without actually performing the costly computation.	Ein Kernel ist eine Klasse von Algorithmen, die dazu dient, Daten in einem höherdimensionalen Raum abzubilden, ohne dass dafür aufwendige Berechnungen durchgeführt werden müssen.	
1759 
13700fde-6c43-483d-8197-05fb5ba8e3a6	trick.	Tricks.	
1760 
177c5a5c-13b1-49f7-baa5-7cb191184b15	With this, data that cannot be easily separated in a lower dimensional space are mapped to higher dimensional space (where they can then be separated more easily) (Boehmke & Greenwell, 2019).	Dabei werden Daten, die sich in einem niedrigdimensionalen Raum nicht leicht trennen lassen, auf einen höherdimensionalen Raum abgebildet, wo sie dann leichter separiert werden können (Boehmke & Greenwell, 2019).	
1761 
42645dab-97aa-47b0-bffe-13b7b1192ecc	In this unit, we will analyze these SVMs, searching for answers to the following questions:	Die vorliegende Lektion erläutert die Funktionsweise von SVMs und liefert unter anderem Antworten auf die folgenden Fragen:	
1762 
86ee1208-6d42-45a8-aeea-07df3858a057	﻿How can we choose the best hyperplane for classification?	Wie können wir die beste Hyperebene für ein Klassifizierungsproblem ermitteln?	
1763 
ba814d9d-8435-42f3-b07c-50c2f073299a	How does the kernel trick, which allows SVMs to classify nonlinear data, work?	Wie funktioniert der Kernel-Trick, mit dem SVMs nichtlineare Daten klassifizieren können?	
1764 
4595cbc8-db42-4c67-a2e5-f847fe2c80be	How can we utilize SVMs with the help of Python to solve real-world problems?	Wie können wir SVMs in Python implementieren, um praktische Probleme zu lösen?	
1765 
03fa2074-f74e-40f1-8332-c4659c2c0f34	Large Margin Classification	Large-Margin-Klassifikation	
1766 
03a0afc2-6b01-40b3-9cab-b012d6cf07c9	Large Margin Classification	Large-Margin-Klassifikation	
1767 
11b0835a-e7d3-4f7e-8637-f448f2b80306	SVMs determine class boundaries and leave an object-free area as large as possible between them.	Wie eingangs erwähnt wählen SVMs Klassengrenzen so, dass ein möglichst großer objektfreier Bereich zwischen den separierten Datengruppen aus dem Trainingsdatensatz bleibt.	
1768 
a4392141-f8da-4cb1-a2c7-7a63981be835	With these boundaries, the data are then divided into two distinct classes.	Das erleichtert die anschließende Klassenzuordnung neuer Datenpunkte	
1769 
394a5869-f656-40c8-bd0f-5035c41744cd	Given their characteristics, SVMs are also called large margin classifiers.	und ist der Grund dafür, dass SVMs auch als Large-Margin-Klassifikatoren bezeichnet werden.	
1770 
5d17dc92-ac3a-43c1-b9db-74b6ab095fcb	Although the standard SVM algorithm is expressed as a binary classification model, it can also be used for multi-class classification.	Zugleich ist in diesem Zusammenhang zu beachten, dass der SVM-Standardalgorithmus auch für Mehrklassen-Klassifizierungsprobleme verwendet werden kann, obwohl er eigentlich als binäres Klassifizierungsmodell konzipiert ist.	
1771 
d8ac9b8b-e3eb-4cb2-96e4-d414a4d7ea3e	In this case, the classification problem is simply expressed in a series of binary classification models.	In entsprechenden Fällen wird das Klassifikationsproblem einfach als Reihe von binären Klassifikationsmodellen ausgedrückt.	
1772 
72d91878-095b-4559-81f2-2b8a60f8f814	The separation of the dataset into two classes is done by a hyperplane, which is a subspace of a vector space (in this context, the feature space) with one less dimension.	Außerdem wissen wir bereits, dass die Zweiteilung des Trainingsdatensatzes durch die Festlegung einer Hyperebene erfolgt, bei der sich um einen (um eine Dimension reduzierten) Unterraum des Merkmalsraums handelt.	
1773 
18b73a08-6d67-425f-8a1d-646b0d9a753c	Thus, for a given [1}n{2]-dimensional vector space, a hyperplane is a subspace of the same with [3}n-1{2] dimensions.	Hat der gegebene Merkmals- bzw. Vektorraum der Trainingsdatenpunkte [1}n{2] Dimensionen, so bildet die Hyperebene einen Unterraum desselben mit [3}n-1{2] Dimensionen.	
1774 
1c18f1b9-0c17-44cb-9025-077ca1a06e6f	The dimension of the hyperplane serving as the decision boundary (separating the data into two classes) depends on the number of features by which an observation within the data is described.	Somit hängt die Zahl der Dimension der Hyperebenedirekt von der Anzahl der Merkmale ab, durch die eine Beobachtung im Trainingsdatensatz beschrieben wird.	
1775 
8f367997-a874-494c-a8cf-a739abf06fb6	This means that, if there are two features, the hyperplane is a straight line; and if there are three features, the hyperplane is a plane.	Das bedeutet, dass die Hyperebene eine gerade Linie ist, wenn zwei Merkmale vorhanden sind, und dass sie bei drei Merkmalen die Form einer zweidimensionalen Ebene annimmt.	
1776 
e538de2d-8038-41c3-9f70-cde10908b292	This is shown in the following figure.	Dieser Sachverhalt ist in der folgenden Abbildung dargestellt.	
1777 
1dbe4082-6c37-4c21-b617-8d690f3e4dda	Hyperplanes in Two-Dimensional and Three-Dimensional Space	Hyperebenen im zwei- und dreidimensionalen Raum	
1778 
fcef6d5a-e8a9-42e7-abda-f6a9628ea31f	Hofer (2021).	Hofer (2021).	
1779 
74bfe41b-dc9b-4873-b3e5-5296d8b2c32f	[1]	[1]	
1780 
f565184f-c2b9-418c-ba09-412d5d4f905c	﻿The naming of support vector machines stems from the data points that lie on the margin of a class and determine the location of the hyperplane.	Die Bezeichnung Stützvektormaschinen bezieht sich auf jene Datenpunkte, die am Rand einer Klasse liegen und die Lage und Position der Hyperebene bestimmen.	
1781 
04b67eca-a0aa-48d4-85c7-554889bd41e6	These are called support vectors and are shown in the figure below.	In der nachstehenden Abbildung sind diese Punkte (gemäß der einschlägigen Nomenklatur) als Stützvektoren markiert.	
1782 
64480f61-98ce-4b19-a180-e02e5d185311	The Support Vectors	Stützvektoren	
1783 
34f43869-2832-4580-b989-f8a7710d5a5b	Hofer (2021).	Hofer (2021).	
1784 
cd1a8381-a08c-47b6-8f3c-a925b9cc54e6	[1]	[1]	
1785 
4ed7a28b-c099-488e-95d9-d210a3d9789e	﻿Depending on whether we are dealing with the classification of linearly separable classes or a nonlinear classification problem, we can distinguish between two types of support vector machines: linear and nonlinear SVMs.	Grundsätzlich können wir zur Einteilung unserer Trainingsdatenpunkte lineare und nichtlineare SVMs verwenden – je nachdem, ob es uns um die Unterscheidung linear trennbarer Klassen oder um die Lösung eines nichtlinearen Klassifizierungsproblems geht.	
1786 
7a19518e-f89e-4b70-85a3-263cc9ee2126	Linear SVMs are used for data that are linearly separable.	Demnach eignen sich lineare SVMs für Daten, die linear separierbar sind,	
1787 
3bac2555-638a-4594-b7ea-edc7f97d10ff	In other words, they are used for datasets that can be classified with the decision boundary of a straight line.	d. h. die in ihrem ursprünglichen Zustand anhand einer geradlinig verlaufenden Entscheidungsgrenze klassifiziert werden können.	
1788 
148edda4-91f7-4aef-8ec2-f21000f697de	The SVM uses the large margin classification method to obtain the optimal decision boundary.	Hier kann die SVM unmittelbar die Large-Margin-Klassifikationsmethode anwenden, um die optimale Entscheidungsgrenze zu ermitteln.	
1789 
83839add-70cd-4e89-8df5-b4d2f901255a	By comparison, nonlinear SVMs are used for data that are not linearly separable.	Im Unterschied dazu werden nichtlineare SVMs für Daten verwendet, die nicht unmittelbar linear separierbar sind.	
1790 
86798145-548f-4996-887f-ee1c8f7ba3df	In this scenario, the data are mapped into a higher dimensional space, where they are more easily separated.	In diesem Fall	
1791 
12b14724-e05f-4ad3-b7c8-4c75e54966d5	This is done by using the kernel trick and simply calculating the mathematical relationship between the points as though they were in higher dimensions.	wird der Kernel-Trick angewandt und die mathematische Beziehung zwischen den Punkten so berechnet, als befänden sie sich in einem höherdimensionalen Raum, in dem sie leichter zu trennen sind.	
1792 
a09125e0-575a-4a24-84f1-6d76a254f908	In doing this, computationally intensive transformations of the data are avoided.	Auf diese Weise werden rechenintensive Datentransformationen vermieden.	
1793 
53aaf7a1-0933-4851-b659-817e4874e119	Finding the Optimal Hyperplane by Maximizing the Margin	Ermittlung der optimalen Hyperebene durch Abstandsmaximierung	
1794 
a4fed0b1-071c-464f-a802-e7110bdab8be	As previously described, a hyperplane in a two-dimensional space is a line and a plane in three-dimensional space.	Wie bereits erläutert, ist eine Hyperebene in einem zweidimensionalen Raum eine Linie und im dreidimensionalen Raum eine Ebene.	
1795 
0682c385-e08e-4159-96d9-4cc96fb990b0	In a [1}p{2]-dimensional space, a hyperplane can be generally expressed as follows:	Dementsprechend lautet die allgemeine Hyperebenengleichung für den [1}p{2]-dimensionalen Raum wie folgt:	
1796 
0f59eca3-4a4e-46d6-95d9-4eccd255a19a	β	β	
1797 
4824bdfc-da61-444e-8a7e-3c7f74eb0322	0	0	
1798 
8499492a-9fab-44ad-8f2b-9281ba89bb4d	+	+	
1799 
d375be7b-dc41-4501-989a-782605ab8055	β	β	
1800 
69c8dcca-1132-4a24-8c0d-759ef0740ae5	1	1	
1801 
8ea4e4b5-1574-4423-81d0-8b2f65dcd4df	X	X	
1802 
c36e6177-2c47-42d4-bb8b-5086c6a65805	1	1	
1803 
a9f4da7c-a62d-447e-a70b-cc25f04014bd	+	+	
1804 
8663624d-8da4-4aba-aef7-f3600740dcfc	…	…	
1805 
6a24347c-7388-4dfe-a022-19e45afc05cb	+	+	
1806 
cb27f1ec-682f-4650-8672-d2b74bdaa75f	β	β	
1807 
d65ca4fb-9fc5-4305-9dd7-a7369809cea0	p	p	
1808 
2f666758-bb52-4dc9-a11a-239bcdeb753d	X	X	
1809 
4627e6c0-fafd-4f19-b1b7-630b4eb54f1d	p	p	
1810 
f05affb8-c157-4a64-b1fe-3518fbc7964d	The prediction outcome [1}y[2}en{3]{4] of an observation[5} I{4] now depends on which side of the hyperplane it is located.	Zugleich ist klar, dass das Vorhersage- bzw. Klassifizierungsergebnis [1}y[2}en{3]{4] für eine Beobachtung[5} I{4] ausschließlich davon abhängt, auf welcher Seite der Hyperebene sie sich befindet.	
1811 
4423c9de-441d-4401-ba38-49e09d380c74	The goal is to find the hyperplane that maximizes the margin boundaries [1}M{2], which can be formally expressed as follows:	Vor diesem Hintergrund besteht das Ziel der SVM darin, die Hyperebene zu finden, die den Spielraum bzw. Abstand [1}M{2] (für engl. margin) zwischen den separierten Gruppen von Datenpunkten maximiert. Formal lässt sich dies folgendermaßen ausdrücken:	
1812 
38921c93-52b3-4e1e-8dc4-56874f506438	maximize M, given β	Maximiere M für die gegebenen Werte β	
1813 
5f813ab3-83a3-41e2-b19c-7ae3138a60ca	0	0	
1814 
03a37ab3-2d0e-491b-b9dd-b440948c9cd7	,	,	
1815 
9513352a-c937-4399-92f3-d89c94b75f7d	β	β	
1816 
842afe23-b769-449d-b6d7-b87fb440d2bd	1	1	
1817 
c402d3b2-9859-4a7d-8d0b-6e0ec7fc49b5	,	,	
1818 
e123b487-3c89-4459-89e7-338910190efd	…	…	
1819 
91f7fea9-47f7-42cc-b5bb-b061e1948432	,	,	
1820 
4f696c86-5f4b-4c2d-a05a-df96747d4ea4	β	β	
1821 
bbaa9d2f-f5cc-4abe-a307-0b8d89c5f3fa	p	p	
1822 
e1fa69d3-9c71-4c57-9ce4-212e45ec3cf4	subject to	unter der Bedingung, dass 	
1823 
921c107b-f8c5-4792-bf5d-bd85beab0200	y	y	
1824 
7c5e8aae-aba4-40d5-81a3-edaac3defcd0	i	i	
1825 
5c466510-2af8-4166-a2ab-b93e91c69538	(	(	
1826 
788ec5a9-26f0-4af2-b3f7-4f71c28b4a8a	β	β	
1827 
2b50bcb9-ecdc-4fe3-a967-d5c8dc8906dc	0	0	
1828 
5d40c037-0097-42b4-8756-7e2632078b9a	+	+	
1829 
3b06926c-c1f3-44f0-908b-d459abb54a4f	β	β	
1830 
4971f5c6-d8b1-40ac-82dc-16bd48c687a1	1	1	
1831 
de139f70-17c0-478e-a7a0-a42b60bd379d	x	x	
1832 
dfa6e482-dcb6-48a3-9a2d-67ed984b88ef	i	i	
1833 
c43d5169-f3ee-42a0-9a23-ee27f1b36a86	1	1	
1834 
deb2a86c-7964-4b54-b159-0c004e78d1b8	+	+	
1835 
fc199ddb-b52a-4897-9577-397ecf8516eb	…	…	
1836 
3d913b9a-d8cc-4b77-a8b5-125cf343a2f4	+	+	
1837 
836c0d50-280c-4099-904f-916fa3ad7b45	β	β	
1838 
430e2c9f-7571-4a11-ad04-445e799a344a	p	p	
1839 
42218848-1673-43bf-846e-6368948ce2d4	x	x	
1840 
abd55fef-b337-40b8-8c24-a7388b271a06	i	i	
1841 
983a8b09-e9af-44b9-89b8-30a7c4363666	p	p	
1842 
1f9e8490-1db1-4279-9ff1-7a5a0b1181db	)	)	
1843 
201c27ba-ff63-4f42-a1b3-267072a27841	≥	≥	
1844 
a3709695-1f32-445c-b330-6fa5676f1b60	M	M	
1845 
f81053be-489d-490d-8232-e739b2e699ef	,	,	
1846 
45722fc7-b42f-4726-a4cf-4feb25f7da38	i	i	
1847 
a1ad1c11-e0b9-4b28-b791-b7a99ba28d02	=	=	
1848 
97dfe90d-38d2-4227-9a5a-10f1a2365afc	1,2	1,2	
1849 
4a4a450e-50e0-4843-9a93-7864486cfba5	,	,	
1850 
0e2e6f12-24af-4abd-a095-4f56c6680b41	…	…	
1851 
71fbb02b-b748-4f17-9700-4e528293a7f9	,	,	
1852 
37763030-0cae-4f12-9c86-2a646f2c7cde	n	n	
1853 
994f3da4-0a6d-4a29-9d24-04e6341840c3	Here, [1}y[2}en{3](β[4}0{3]+β[6}1{3]x[8}i1{3]+⋯+β[10}p{3]x[12}ip{3]) {14]expresses the distance between the [15}i{14]th observation to the decision boundary.	Hier bezeichnet [1}y[2}de{3](β[4}0{3]+β[6}1{3]x[8}i1{3]+⋯+β[10}p{3]x[12}ip{3]) {14]den Abstand zwischen der [15}i{14]-ten Beobachtung und der Entscheidungsgrenze.	
1854 
84192aeb-a4ca-405a-8fd7-5443b26692b7	This also reveals that it must be greater than the margin (Boehmke & Greenwell, 2019).	Es wird verlangt, dass dieser Wert größer oder gleich dem festgelegten Spielraum M ist (Boehmke & Greenwell, 2019).	
1855 
dc906172-74a6-4c49-b99c-618974b37f29	Hard Margin and Soft Margin	Weiche und harte Trennung	
1856 
befaa573-ba56-464f-a83c-40586af2d784	By its very nature, real-world data can be quite messy, and we can almost always find a few instances where a linear classifier is unable to perfectly separate the classes.	Reale Beobachtungsdaten können naturgemäß ziemlich stark variieren und enthalten fast immer einige Fälle, die einer perfekten linearen Klasseneinteilung entgegenstehen.	
1857 
5565f1e0-697b-449c-be59-acb650e73bd3	If we demand strictly that the points on the right side of the hyperplane are classified, the model will be rather sensitive to outliers, which would limit its ability to make generalizations.	Wenn wir also strikt darauf beharren, dass alle Datenpunkte auf der korrekten Seite der Hyperebene liegen, wird das Modell ziemlich empfindlich auf Ausreißer reagieren und lässt sich nur in begrenztem Maße verallgemeinern.	
1858 
480c6dca-1fe0-4877-bca0-678e625efb77	This hard constraint on the model is called a hard margin classification, depicted in the figure below.	Diese Einschränkung wird als harte Trennung (hard margin) bezeichnet und kann die in der folgenden Abbildung dargestellten Auswirkungen haben.	
1859 
c4ca079d-9080-4e47-9dda-4320d753d463	Sensitivity of Hard Margin Classifications to Outliers	Klassifikator mit harter Trennung und hoher Empfindlichkeit gegenüber Ausreißern	
1860 
cdb639b1-6091-49eb-8280-7e5187f7db8e	Hofer (2021).	Hofer (2021).	
1861 
e0402ae0-f2df-425b-bbb9-bfc5a2e3e8f2	[1]	[1]	
1862 
1263e049-30d0-4eba-a5e3-eaa62c17e63a	﻿In order to make SVMs less sensitive to outliers (thereby rendering them somewhat more flexible), we need to allow misclassifications.	Um SVMs weniger empfindlich gegenüber Ausreißern und damit etwas flexibler zu machen, müssen wir Fehlklassifikationen zulassen.	
1863 
03174c49-5a81-44e8-8a07-96f2b441d0d4	This adaptation is called a soft margin classification.	Die hierfür nötige Anpassung wird als weiche Trennung (soft margin) bezeichnet	
1864 
866093a5-ef07-49e0-b21c-7b3371682d23	Allowing misclassifications is a method for addressing the bias-variance-tradeoff.	und eröffnet uns die Möglichkeit, das Bias-Varianz-Dilemma zu lösen.	
1865 
3bb5c995-420e-4905-8980-dbe5f25d4448	With the hard margin, we have a classifier that performs well on the training data and performs poorly on new, previously unseen data.	Denn mit der harten Trennung erhalten wir einen Klassifikator, der in Bezug auf die Trainingsdaten eine hohe Genauigkeit erreicht, bei neuen Daten jedoch lediglich eine schwache Vorhersageleistung bietet.	
1866 
4e581d93-d8fd-42ba-8189-a74ee15dfe76	This means that there is high variance.	Dies ist gleichbedeutend mit einer hohen Varianz.	
1867 
510f72ff-5c54-45d4-ae10-c9546f60bc05	By comparison, with a soft margin, the threshold allows misclassification and thus leads to a higher bias on the training data.	Dagegen lässt die Entscheidungsgrenze bei der weichen Trennung Fehlklassifizierungen zu. Das führt zu einem höheren Bias des Modells in Bezug auf die Trainingsdaten,	
1868 
90295cf2-ee81-418a-86c6-2e5517118917	Nevertheless, it would also perform better on new, previously unseen data, thus resulting in lower variance.	steigert aber zugleich die Vorhersageleistung für neue, bisher unbekannte Beobachtungen und resultiert somit in einer niedrigeren Varianz.	
1869 
2b786a27-cc21-43bb-b504-3d29a31ab2ba	The following figure illustrates this by showing the location determination of the hyperplane by means of hard and soft margin.	Die nachstehende Abbildung veranschaulicht die Unterschiede zwischen harter und weicher Trennung bezüglich der Einpassung der Hyperebene.	
1870 
613e4520-3387-476d-8840-dde341a5e5c2	Hard Margin and Soft Margin	Harte Trennung und weiche Trennung	
1871 
55687bd8-2571-4584-90a6-3592437a6c72	Hofer (2021).	Hofer (2021).	
1872 
70c88247-a022-4c39-b835-5f3482147e90	[1]	[1]	
1873 
e86be1d1-52f2-4471-8932-0d8fe581e1e3	To incorporate a soft margin, SVMs can be extended by adding a	Mathematisch erfolgt die Umsetzung der weichen Trennung durch die Einführung des	
1874 
fe9c33ca-44e3-421a-8e5d-84afc4d6ff1d	hyperparameter	Hyperparameters	
1875 
841bd556-4d7c-4a91-8cc2-b16a97ea7731	Hyperparameter	Hyperparameter	
1876 
d7e90e3b-50a8-4782-9c7d-1075bb76d657	A hyperparameter is a parameter with a value that helps control or govern the learning process.	Ein Hyperparameter bietet die Möglichkeit, den Lernprozess durch Variation seines Werts zu kontrollieren oder zu steuern.	
1877 
af365beb-0a58-4676-8736-339d8d650562	[1}C{2] that allows the algorithm to accept errors.	 [1}C{2], der es dem SVM-Algorithmus erlaubt, Fehler zu tolerieren.	
1878 
6a2134d1-a9fc-43f9-b1c6-4e38d35f70b5	The goal of this hyperparameter is to maximize the margin by allowing misclassifications while still accounting for outliers.	Wir maximieren also den Abstand zwischen den beiden Klassen, indem wir Fehlklassifizierungen zulassen und zugleich dafür sorgen, dass Ausreißer weiterhin Berücksichtigung finden.	
1879 
dd84b905-f515-414b-a262-e69ed8894af7	The value of [1}C{2] is typically chosen by trial and error or cross-validation.	Dabei wird der Wert von [1}C{2] in der Regel mithilfe der Trial-and-Error-Methode oder durch Kreuzvalidierung ausgewählt.	
1880 
8bef5451-0df7-4df1-a954-49670f045785	To introduce this soft margin into the optimization function, we need to introduce a slack variable [1}𝜀[2}I{3] ≥ 0{4] for each instance, indicating how many instances [5}I{4] can violate the margin.	Außerdem müssen wir für jeden Datenpunkt eine Schlupfvariable [1}𝜀[2}I{3] ≥ 0{4] einführen, die genau angibt, ob bzw. wie weit die Instanzen [5}I{4] den geforderten Mindestabstand zur Hyperebene unterschreiten und eventuell sogar auf der falschen Seite liegen können.	
1881 
773179b3-db82-4d61-9efa-3208412ac152	The maximization problem can then be formally expressed as follows:	Auf dieser Grundlage lässt sich das Maximierungsproblem wie folgt formulieren:	
1882 
8f2d9eaa-4787-4bdf-9517-689a880a24a7	maximize M, given β	Maximiere M für die gegebenen Werte β	
1883 
586fe915-00c9-4bb7-8322-e61afbb183a8	0	0	
1884 
375de2dd-5571-43a5-9b4d-146ba72beeda	,	,	
1885 
13003ed2-393b-46cb-8711-bd62af0d261b	β	β	
1886 
ceffe78a-7a8b-491c-a32c-3625da1c9160	1	1	
1887 
f029d89a-42a4-426e-86c6-c340ddac427d	,	,	
1888 
e41ae757-c321-48b9-8ddc-1a51a2a11956	…	…	
1889 
062fbf49-8f8e-435d-a39e-1031849acc2f	,	,	
1890 
7a3884b7-42f5-4bdf-9d16-004ea49b669f	β	β	
1891 
3330e8a9-4d0d-4d4c-bc61-15f50bab7edd	p	p	
1892 
92e07f2b-09e4-4ae8-a30b-90b6287e98ee	subject to	unter der Bedingung, dass 	
1893 
2773354d-8b4d-4c7a-b80e-7bdc9fa6fd2f	y	y	
1894 
23f1fdd8-ff7f-4e54-80b1-c153f463d230	i	i	
1895 
051e2460-4d5f-498f-9662-8a8d0c4dfcac	(	(	
1896 
3484b9ee-0ce2-4a3d-a13e-3591c3a631aa	β	β	
1897 
db822407-d7d2-4560-b813-80261c0b3a7c	0	0	
1898 
a6ec12e7-8d5c-46c4-9890-4087e6c59bff	+	+	
1899 
718dcfc3-fee4-4f7a-becd-28555efc65f7	β	β	
1900 
2c076e95-aae7-4c13-a05c-258da2c677d5	1	1	
1901 
27c266a4-0362-4183-8ed8-7ba068f2a32d	x	x	
1902 
46c19fc1-c117-4099-8257-d7eb9c130ec8	i	i	
1903 
970cfab0-f013-4f66-90d9-ca9b4423b991	1	1	
1904 
b6e2b4f8-c62d-4164-96bb-63fc15991323	+	+	
1905 
57668e1e-de07-446f-b98f-4ed1514239d7	…	…	
1906 
f51f8327-af84-47ec-9b15-970cda86ae90	+	+	
1907 
bf6c8e67-ee6d-4f65-9693-4be5cbd2ef5d	β	β	
1908 
3f026c2e-63d1-4461-b6f9-c2734d4fa59d	p	p	
1909 
2949e6bc-0010-455c-95be-27d995304b04	x	x	
1910 
76a2a5ee-6b5a-440c-907f-12d0773806be	i	i	
1911 
d69b0bbf-be92-422c-8c79-542597991533	p	p	
1912 
a2d5a693-d4a1-45f9-84e6-9330f9a9ff32	)	)	
1913 
1e859d2a-49ac-41c3-9a25-4bc6c2499df2	≥	≥	
1914 
569a99ed-b546-41f4-9b66-31da69ab2643	M	M	
1915 
003e1d06-708f-4bc3-89c0-fca1be9ceec9	(	(	
1916 
1e58f545-386c-4e85-8b38-ff9c00eadbd2	1	1	
1917 
0b051c21-d4e3-4759-b171-3a867c74bf61	-	-	
1918 
486e6ba0-c89f-430a-91ce-a3b6418d3366	ε	ε	
1919 
68d8ecbe-33a2-4bd8-b222-22d4997f237e	i	i	
1920 
fa075ad0-cd45-4f79-8d41-ba5a52d8d7c6	)	)	
1921 
9cda7ed1-33da-4a1c-b304-8f79b838c11d	,	,	
1922 
c60ac1ec-d703-4659-95a0-81e0d1245ee9	i	i	
1923 
9bb86128-dcbf-40b3-8b42-54267039d12b	=	=	
1924 
caf8a16b-22f0-4a99-ab6b-aec22df9f3b8	1,2	1,2	
1925 
7feb51ec-a9fe-4064-85e3-6797f1bfdbff	,	,	
1926 
daa7edce-c5ae-4f4e-8bc5-74ee84c8e724	…	…	
1927 
9ae051fd-9275-44e0-b956-d4c15955c9e9	,	,	
1928 
6556c302-5c3d-437f-93ab-c6cf933739d1	n	n	
1929 
235f9dc7-4b7c-4b0d-b025-a88235c04468	ε	ε	
1930 
e12a58d7-3f42-443b-9971-25942ef60546	i	i	
1931 
05ff608d-4d8b-4853-a3d8-70198d6d7a6a	≥	≥	
1932 
3c8116d1-e356-49f2-b444-a3bd93d05a42	0	0	
1933 
b112c7ac-c28e-4c91-84d7-9506b42950f1	,	,	
1934 
6cf1ab75-7a0b-497b-a61e-751bae5e5c2f	∑	∑	
1935 
1a7f3610-9503-4fd5-9019-f514916bebe1	i	i	
1936 
876c22a1-2d6d-4d5c-8f73-474992bf6250	=	=	
1937 
0ea89dd7-fbfa-44eb-8a49-324059082097	1	1	
1938 
d745e209-e287-48ba-a219-bd90a19e5f88	n	n	
1939 
5cb611f5-9f98-49df-9186-ebc9f0457d1d	ε	ε	
1940 
49f02aad-7d6b-47a4-af48-56cc9cb28288	i	i	
1941 
516e9f23-9a07-47c7-bcc1-5c72ef7c5472	≤	≤	
1942 
3946573e-ed54-4d01-b24e-c703e3a7ad25	C	C	
1943 
c4b992f0-7531-43e9-aa0d-0ac631c04c65	Thus, the hyperparameter [1}C{2] indicates the total allowed margin violation.	Somit gibt der Hyperparameter [1}C{2] die zulässige Gesamabweichung von den ermittelten Abständen an.	
1944 
7b864da5-ab09-45c6-8227-e5b601097916	If C is close to zero, the margin is large and many misclassifications are allowed (soft margin).	Wenn C nahe bei null liegt, ist der Spielraum groß und viele Fehlklassifikationen sind zulässig (weiche Trennung).	
1945 
a83c7705-e434-47b8-b415-90d351146565	If C takes a high value, the margin is narrow and misclassifications are not allowed (hard margin) (Boehmke & Greenwell, 2019).	Erhält C dagegen einen hohen Wert, ist der Spielraum eng und Fehlklassifikationen sind nicht zulässig, was einer hartenr Spielraum Trennung entspricht (Boehmke & Greenwell, 2019).	
1946 
654c9159-967c-41d5-8e78-0ba555b42417	Self-Check Questions	Fragen zur Selbstkontrolle	
1947 
227352ba-04b6-429e-9a2a-af595ef9585a	What are the two types of support vector machines (SVMs) introduced in this section?	Welche zwei Arten von Stützvektormaschinen  (SVMs) wurden in diesem Abschnitt vorgestellt?	
1948 
00351a86-a205-448a-86a2-8dfba31b100d	linear support vector machines and nonlinear support vector machines	lineare Stützvektormaschinen und nichtlineare Stützvektormaschinen	
1949 
32c4be94-c90b-4708-82f5-62815791efb8	The Kernel Trick	Der Kernel-Trick	
1950 
2666a769-9b87-40c4-90ad-ba739edf6778	The Kernel Trick	Der Kernel-Trick	
1951 
069a0d3b-aea1-4299-8838-76030c9a29f2	It is here that we must pose ourselves an important question: what happens if the data are not separable linearly?	An dieser Stelle müssen wir uns einer wichtigen Frage zuwenden: Was passiert, wenn die Daten (auch bei weicher Trennung) nicht linear trennbar sind	
1952 
ee91813d-5704-43a2-972a-9a91dac03b34	In this case, it would be impossible to find a linear hyperplane that can separate the data points.	bzw. wenn wir keine lineare Hyperebene finden, die die Datenpunkte sauber teilt?	
1953 
63963fe9-7bdd-4a5a-a58c-b6f4460055af	This is where the kernel trick is employed.	Wie wir im Folgenden erfahren werden, lässt sich dieses Problem lösen, indem wir den sogenannten Kernel-Trick anwenden.	
1954 
4d46fdb7-b818-4591-a9be-80ec9bfc544b	The kernel trick sees the transformation of the non-separable data into a higher dimensional space, where they can be separated.	Dabei nutzen wir die Tatsache aus, dass nicht trennbare Daten durch die Transformation in einen höherdimensionalen Raum separierbar werden.	
1955 
255eda76-2e61-47e5-a4b6-b63d27107038	For example, suppose we have a dataset with two given features [1}X[2}1{3]{4]and [5}X[6}2{3]{4] that cannot be linearly separated in two-dimensional space.	Wenn uns beispielsweise ein Datensatz mit zwei gegebenen Merkmalen [1}X[2}1{3]{4]und [5}X[6}2{3]{4] sowie mit zwei im zweidimensionalen Raum nicht trennbaren Datenpunktclustern vorliegt,	
1956 
8c2329fb-b1f4-42f2-bb7a-98b61fcbf417	One solution to classify these type of data is to map it into a three-dimensional space, where the new coordinates can be specified as follows:	können wir die betreffenden Daten in einem dreidimensionalen Raum abbilden und so die Voraussetzungen für eine lineare Klasseneinteilung schaffen. Zu diesem Zweck definieren wir die neuen Koordinaten der Datenpunkte wie folgt:	
1957 
99714b93-fd66-4e4d-9cb0-c9936070a56a	X	X	
1958 
215e451c-2bbc-4d80-9063-989a1976fa5d	1	1	
1959 
0985ba43-aeb8-455f-9d71-32d220cb7c18	=	=	
1960 
d1c850e8-ee98-4e32-b071-bc690b375764	x	x	
1961 
fce3d33e-a7d2-4c73-96f4-2701c3fd581a	1	1	
1962 
60b4f97b-73de-4fda-8ac0-c69d07050b08	2	2	
1963 
5c5bebaa-270b-4d05-8e9c-c60dd2c811d8	,	,	
1964 
bfbbf6bc-045b-45cf-a05a-b91a3a6a52e9	X	X	
1965 
a31aa4ee-381a-4231-8507-59f1c755841b	2	2	
1966 
968b36d8-5785-49ca-9490-b8e92afa6a96	=	=	
1967 
1a82793a-d6f4-402b-9202-2874b8d49ccc	x	x	
1968 
35e4a326-9188-4a8a-9384-c35466cf89cf	2	2	
1969 
e80fd44d-af68-453d-b8b4-e1be0284daae	2	2	
1970 
1fa60515-4abf-4d7a-b8a7-9a3d1247f58d	,	,	
1971 
49843d2c-8881-459f-ae08-67dea39f695d	X	X	
1972 
4dafa709-80d3-4f17-b763-ebb0368acd2b	3	3	
1973 
252acafd-e156-466b-bb98-d8e9920d46c9	=	=	
1974 
d646630a-343c-4e15-a315-db31e6599ac5	2	2	
1975 
e84e848c-9f3a-487c-ab46-3dec9eeebcdf	x	x	
1976 
c395559d-1a0c-4215-ad20-64a716329708	1	1	
1977 
055dda9a-2c74-4db3-af22-2ff2bd7844ad	x	x	
1978 
0e9ff20e-301a-4949-aaa4-afe346170d38	2	2	
1979 
e43e6273-1857-4271-bb19-d8871c9a3b01	﻿Doing so allows the data to be separated into two classes by a hyperplane, as illustrated in the figure below.	Auf  dieser Grundlage können die Daten durch eine Hyperebene in zwei Klassen unterteilt werden, wie in der folgenden Abbildung dargestellt.	
1980 
4d762804-4a08-442c-93ea-6830c1b0e909	The Kernel Trick	Der Kernel-Trick	
1981 
0a2a91a0-9c27-4920-bcea-486c5304b39f	Hofer (2021).	Hofer (2021).	
1982 
d5e736d6-0138-4898-b501-1e8e21e38d04	[1]	[1]	
1983 
b9cd5c4f-0423-4280-a61a-98affe273ca4	﻿After separating the data, we can then project them and the hyperplane back onto the original two-dimensional space, as shown in the right diagram of the previous figure.	Nach der Festlegung der Entscheidungsgrenze können wir die Datenpunkte mitsamt der Hyperebene wieder auf den ursprünglichen zweidimensionalen Raum projizieren, wie im rechten Teil der obigen Abbildung dargestellt.	
1984 
30cfa831-2a51-4b04-9c7d-d500edc2925c	However, such a transformation of the data into a higher-dimensional space is a computationally intensive task.	Allerdings hat dieses Verfahren den Nachteil, dass die Transformation von Daten in einen höherdimensionalen Raum oft einen beträchtlichen Rechenaufwand erfordert.	
1985 
6762043a-a689-40a1-8d0e-f36fc24b1f6a	For this reason, the kernel trick does not perform an actual transformation.	Aus diesem Grund sieht der Kernel-Trick keine eigentliche Datentransformation vor.	
1986 
9de2be47-3a1e-4481-9837-66f6e2bf3403	Instead, it merely calculates the relation of the data points to each other as though they were in a higher-dimensional space.	Stattdessen wird lediglich das Verhältnis der Datenpunkte zueinander berechnet – und zwar so, als ob sie sich in einem höherdimensionalen Raum befänden.	
1987 
56dfdf54-5be7-43ef-a7c0-a9874fcc3dce	This can be done purely mathematically and without the need for actual transformation.	Dies kann rein mathematisch und ohne tatsächliche Transformation geschehen.	
1988 
f3514844-f9a0-4789-bb27-70d6622326cc	In other words, the kernel trick uses algebra to save us from some spinning “loading” wheels.	Mit anderen Worten: Der Kernel-Trick basiert auf algebraischen Verfahren, die uns vor lange Lade- und Rechenzeiten bewahren.	
1989 
d8b8aba5-a1fa-4b46-af45-f962927eadf4	This mapping of the data is done with the help of a kernel function.	Hierfür kommen Kernelfunktionen zum Einsatz.	
1990 
12b6e28d-8868-448d-a545-1d2576cf7620	Kernel Functions	Kernelfunktionen	
1991 
63669def-3a26-4eae-9bf2-d6c87ddccf13	﻿Kernel functions are used by SVMs to systematically find an optimal hyperplane in higher dimensions.	Kernelfunktionen werden von SVMs für die systematische Suche nach einer optimalen Hyperebene in höherdimensionalen Räumen verwendet.	
1992 
c4084e34-f49b-458c-bf0c-4ea55869e379	What makes these functions so special is that they do not actually perform the transformation to higher dimensions.	Ihr besonderer Vorteil besteht darin, dass sie die Transformation in höhere Dimensionen nicht wirklich durchführen,	
1993 
16814aec-a1d9-4a8c-92b8-75b8459bfc4e	Instead, they directly compute the distance, i.e., the scalar products of the data points for the expanded feature representation, without ever actually computing the expansion.	sondern direkt den Abstand der Datenpunkte in einem höherdimensionalen Raum ausgeben. Sie berechnen also die Skalarprodukte der Datenpunkte im erweiterten Merkmalsraum, ohne die Erweiterung selbst zu berechnen.	
1994 
d75cfda5-f4e2-4e92-83fd-293067be8234	There are two highly common methods of mapping the data into higher dimensional space in SVMs: the polynomial kernel, which computes all possible polynomials up to a certain degree, and the radial basis function (RBF) (also called the Gaussian kernel), which corresponds to an infinite-dimensional feature space (Boehmke & Greenwell, 2019).	Zu ihren gängigsten Varianten für SVMs zählt zum einen der polynomiale Kernel, der alle möglichen Polynome bis zu einem bestimmten Grad berechnet, zum anderen die radiale Basisfunktion (RBF), die auch als Gaußkernel bezeichnet wird und einen unendlich-dimensionalen Merkmalsraum impliziert (Boehmke & Greenwell, 2019).	
1995 
cf61bcf8-9bd9-4388-a43e-d1e6263b5953	[1}d{2]th polynomial kernel	Polynomialer Kerner [1}d{2]-ten Grades	
1996 
e677c6ee-c7f3-42bf-bc00-a06bb5b2fb75	The polynomial kernel computes the decision boundary [1}[2}K{3]{4] via the dot product	Der polynomiale Kernel berechnet die Entscheidungsgrenze [1}[2}K{3]{4] auf der Grundlage des Skalarprodukts	
1997 
d176bf68-bad7-4cc7-a39a-34113342baab	〈	〈	
1998 
4958b0ce-021c-4b5f-88f4-5c1e0fd999a5	X	X	
1999 
76debb4d-fe85-49a3-8018-3dbff2a79568	1	1	
2000 
7e07690c-6a0e-4b26-a21a-c13ed0c8315a	,	,	
2001 
8cd240de-0206-4f22-9c46-bbc6d1bb4360	X	X	
2002 
53e19b0b-df97-44d4-81f9-be226b24dab4	2	2	
2003 
9bb4ed5c-a0eb-4820-a0fa-f79a40565d0d	〉	〉	
2004 
2de0e576-bcdc-4f77-8165-c731401a8a0c	=	=	
2005 
4887a15f-f579-4e4a-9b34-8faf316d0957	∑	∑	
2006 
896264ee-1296-46fb-b8e9-7100520fb6f9	i	i	
2007 
647b85a9-5bb7-458f-b73c-c86b0d255eb8	=	=	
2008 
d051ecf7-5851-472a-91ab-ec7506cfcaec	1	1	
2009 
03eb5ca8-4542-4d03-afe1-4b6f644674cf	n	n	
2010 
a775084b-bb88-4a78-a71c-00ea62d28428	x	x	
2011 
91f23f3f-af3f-4e4c-b938-8c6dd792ed3e	1	1	
2012 
c76d4795-60e8-41b7-9b26-04ab0dbc9062	i	i	
2013 
fca36efc-0582-412b-b11a-2a2b900561f9	x	x	
2014 
ce7eca09-99d4-4a40-bdf5-3d9bc32f4d51	2	2	
2015 
dd0c81df-c900-4bc9-bb98-e7fdb76fa24b	i	i	
2016 
9f304250-810f-4619-aab3-5772c2e9f1d7	of the input features [1}[2}X{3][4}[5}1{3]{7]{8] and [9}[10}X{3][12}[13}2{3]{7]{8] by raising the power of the kernel to the degree [17}[18}d{3]{8]. Mathematically, it is defined as follows:	der Eingabemerkmale [1}[2}X{3][4}[5}1{3]{7]{8] und [9}[10}X{3][12}[13}2{3]{7]{8]. Zu diesem Zweck wird das betreffende Produkt in die nachstehende Gleichung eingesetzt und so in ein Polynom [17}[18}d{3]{8]-ten Grades verwandelt.	
2017 
8f7f4c37-e57e-4cc2-860c-97f08275e0aa	K	K	
2018 
523e9274-0d96-4c06-a28e-c1819014fc11	(	(	
2019 
c7fbb0b6-fc53-4483-ab72-b2fd0c8aa579	X	X	
2020 
5f0f98e0-342c-4d48-87f9-8c0a7d7bb6e5	1	1	
2021 
57ecb16a-710b-4dc5-b88b-3fc115fffd78	,	,	
2022 
57bbedcb-018d-409a-91c3-a13a3a62f9a9	X	X	
2023 
be726e81-a75b-4306-9ccf-f4db3e087f47	2	2	
2024 
c79abb60-1ee2-4267-9750-f03d8e66faf2	)	)	
2025 
8d8dcd23-b6d6-43a8-b90c-4c133297e378	=	=	
2026 
e2128f99-873f-4cbf-9534-cca86ecf38e6	(	(	
2027 
ac4e8190-4aa5-4dfc-a93a-98ffdeed3ddf	1	1	
2028 
79295242-a8ab-418f-8c01-ae3f76471c0d	+	+	
2029 
a425dace-e17d-4cf0-9284-02701643fc40	〈	〈	
2030 
f63e3af9-ec48-41b3-9915-15dd7d7234da	X	X	
2031 
9e69567c-902f-492e-b8f8-e434d237aed0	1	1	
2032 
479ec305-458d-42c1-a86b-0c2bc9ae29c9	,	,	
2033 
02559856-84d6-4e59-96cb-b28b9196c48f	X	X	
2034 
3a5a66c2-feca-4c43-b99a-0867def3d1b2	2	2	
2035 
c7c9b506-3fd4-4034-b1c0-7183607cc244	〉	〉	
2036 
d420cc33-ef9d-4a0b-9c42-716abf584dc1	)	)	
2037 
c94af908-1c43-4c78-8b41-0d2ef193d28a	d	d	
2038 
4662b52b-085d-42f4-9b3d-74d591f2e2cc	﻿The example we looked at previously is a demonstration of the polynomial kernel.	Im obigen Beispiel wurde die Hyperebene mithilfe eines polynomialen Kernels berechnet.	
2039 
0911dbb3-6181-407a-af72-268a62348d21	Radial basis function kernel	Radiale Basisfunktion (RBF)	
2040 
b40792ec-fc87-4409-b913-82f7ace6b1f0	The radial basis function calculates the decision boundary [1}K{2] for the inputs [3}X[4}1{5]{2] and [7}X[8}2{5]{2] by taking the Euclidean distance	Die radiale Basisfunktion berechnet die Entscheidungsgrenze [1}K{2] für die Eingaben [3}X[4}1{5]{2] und [7}X[8}2{5]{2] , indem sie den euklidischen Abstand	
2041 
49f0891e-00eb-41fd-8c81-680d3df43b42	||	||	
2042 
884dfd5f-edcf-499c-9812-79a3a560a0b6	X	X	
2043 
38c5cccc-55db-4f07-b40c-1483eb9ab6ac	1	1	
2044 
76fbda07-4362-4326-96d0-fda471965daf	-	-	
2045 
d955d978-27b8-4892-9b61-94c610daf704	X	X	
2046 
66b4c355-9ac3-462a-b274-dd6f4594ed84	2	2	
2047 
70b52f31-e04e-469d-85b9-d82b7228f9d6	||	||	
2048 
c2b9a6c2-687b-40bc-b48a-d7dc24a9749a	2	2	
2049 
314497ec-dfda-4e5c-800e-6da34ddde6c2	between [1}X[2}1{3]{4] and [5}X[6}2{3]{4][9]and scaling it with the help of the hyperparameter determined by cross validation.	zwischen [1}X[2}1{3]{4] und [5}X[6}2{3]{4][9] mithilfe der durch Kreuzvalidierung bestimmten Hyperparameter skaliert.	
2050 
9818d6cf-f386-4dc5-9f48-4d291b5ffe57	Mathematically, the RBF is defined as follows:	Die entsprechende Funktionsgleichung lautet:	
2051 
52004c20-f99f-4a09-8764-f46c8e0fb856	K	K	
2052 
7ddae885-3731-4e8d-8905-25d0c3f1deb6	(	(	
2053 
c4e4d88c-acd6-4555-9e85-dac890de20fa	X	X	
2054 
54b6e9c0-7f5b-40a6-beb2-1afe43198954	1	1	
2055 
7e173785-747d-4072-816a-b65f739960ba	,	,	
2056 
1e7d0ecc-1beb-4896-a64a-90c0007670e7	X	X	
2057 
d15753fc-ea0e-411e-9f54-578cb86a2930	2	2	
2058 
7e29a4ea-d30c-464d-8782-2e0ec541d2d2	)	)	
2059 
e4f95688-2438-4898-9990-8cf5ee8a5f4e	=	=	
2060 
99c0282a-6552-4e52-9ed7-39480abbb178	e	e	
2061 
a2d2961d-f045-4248-9a77-04869035577b	x	x	
2062 
d6b14989-55c8-42a1-b6d2-81584191a072	p	p	
2063 
587ad4aa-078c-4073-a9c6-61ffc65d36a6	\{	\{	
2064 
f129433c-ff8d-408e-be26-70decb2dea85	-	-	
2065 
c4c4199b-1734-4510-89e5-cdd7b10c1c25	γ	γ	
2066 
30d3f52e-1912-410f-a490-61ea4bec2778	||	||	
2067 
4d4b90f1-90b8-4c78-abea-bb43c78d170a	X	X	
2068 
685d7289-6d90-4dd1-b038-f8bac8af0ebb	1	1	
2069 
b5325d40-27dc-4beb-a8d5-85c4f4bd3d1e	-	-	
2070 
f80f220e-e5ba-4a75-83a0-863c047c041b	X	X	
2071 
61e5df83-6d6b-4793-bc1c-0ca7ec87b8ea	2	2	
2072 
aa160fbc-06b1-4667-a204-933472174297	||	||	
2073 
03cae12d-4d67-4196-a6c5-e28b10af65d7	2	2	
2074 
adeb394b-9e41-402b-9f52-37d15e208b62	}	}	
2075 
32cd602b-5d77-41f0-81aa-dfdfe5d315de	﻿According to Boehmke and Greenwell (2019), “the radial basis kernel is extremely flexible, and, as a rule of thumb, we generally start with this kernel when fitting SVMs in practice” (p. 279).	Nach Boehmke und Greenwell (2019) ist "der Radialbasiskernel extrem flexibel und unser standardmäßiger Ansatzpunkt für die SVM-Anpassung in der Praxis" (S. 279).	
2076 
9c9a9691-2b84-484a-9972-82143b3942c8	Application	Implementierung in Python	
2077 
b656366f-3089-4908-9c1f-3544d709f146	﻿Using the scikit-learn library, as well as the included learn package containing breast cancer data, we can see exactly how SVMs can be applied.	Im Folgenden nutzen wir die in der scikit-learn-Bibliothek enthaltenen Funktionen und Brustkrebsdaten, um mehr über die praktische Implementierung von SVMs zu erfahren.	
2078 
1313d827-8625-45ef-8a4a-ed4aeddaf4a8	First, we import the required libraries and modules.	Dafür importieren wir zunächst die erforderlichen Bibliotheken und Module.	
2079 
20f7e3d7-9ecc-4e63-8dd9-8916611cd827	Code	Code	
2080 
d3d0f660-8c28-45aa-a615-7e24619e61f2	import pandas as pd[1]from sklearn.datasets import load_breast_cancer[1]from sklearn.model_selection import train_test_split[1]from sklearn import svm[1]from sklearn.metrics import confusion_matrix[1]from sklearn.metrics import accuracy_score	import pandas as pd[1]from sklearn.datasets import load_breast_cancer[1]from sklearn.model_selection import train_test_split[1]from sklearn import svm[1]from sklearn.metrics import confusion_matrix[1]from sklearn.metrics import accuracy_score	
2081 
b0b8a7fd-beae-4ac3-89b8-5a6fc4846e0a	The dataset contains two classes of tumors:	Der betreffende Datensatz umfasst	
2082 
5f765e19-6fa7-414e-bbac-fa75c64b8a28	212 malignant tumors and 357 benign tumors.	212 bösartige und 357 gutartige Tumore	
2083 
31128172-29f3-4ce8-8e6e-3fb8360c3f76	There are 30 features in the dataset.	und spezifiziert jeweils 30 Merkmale.	
2084 
7df86965-5898-4224-93f7-8d3030c8d0bb	We load the dataset and encode the label categorically so that it can be interpreted by the model (i.e., [1}malignant=0{2] and [3}benign=1){2].	Wir laden ihn mit kategorialer Codierung der Labels (d. h. [1}bösartig=0{2] und [3}gutartig=1){2], damit er vom Modell interpretiert werden kann.	
2085 
e6b8e35d-9350-4502-912e-a5ea51f149b8	Code	Code	
2086 
0869561e-5261-42a4-a73d-f02107cf3d75	dataset = load_breast_cancer()[1]X = pd.DataFrame(dataset.data, +[1]columns=dataset.feature_names)[1]y = pd.Categorical.from_codes(dataset.target, +[1][5][5][5][5][5]dataset.target_names)[1]y = pd.get_dummies(y, drop_first=True)	dataset = load_breast_cancer()[1]X = pd.DataFrame(dataset.data, +[1]columns=dataset.feature_names)[1]y = pd.Categorical.from_codes(dataset.target, +[1][5][5][5][5][5]dataset.target_names)[1]y = pd.get_dummies(y, drop_first=True)	
2087 
0350830b-0194-43fa-a7ff-b072b1e077c8	We divide the dataset into the training set and the testing set, using 30 percent of the data to test the trained model.	Anschließend teilen wir die importierten Daten so in einen Trainings- und einen Testdatensatz auf, dass der Letztere 30 % des gesamten Datenbestands umfasst.	
2088 
e4918bfd-e685-4305-95a5-57f9a57abed2	Additionally, by setting the parameter “[1}random_state{2]” to an arbitrary number (here, of course, 42), we ensure an identical split between training and test data each time, i.e., the same observations end up in the respective training and test datasets each time we run the code.	Außerdem wählen wir für den Parameter "[1}random_state{2]" einen beliebigen Wert (hier natürlich 42) und stellen zugleich sicher, dass die Aufteilung des Datensatzes in Trainings- und Testdaten jedes Mal identisch ist, d. h. dass bei jeder Ausführung des Codes die gleichen Beobachtungen in den jeweiligen Trainings- und Testdatensätzen landen.	
2089 
676e18fa-ac31-4dd0-8b20-1b4e5ffa576f	Code	Code	
2090 
b58728e4-2f5a-4ac2-a52a-68d5293c07c2	_train, X_test, y_train, y_test = train_test_split(X, y,[1]test_size=0.3, random_state=42)	_train, X_test, y_train, y_test = train_test_split(X, y,[1]test_size=0.3, random_state=42)	
2091 
91640d7f-c010-4173-9df7-98deba9abc43	Next, we initialize and train an instance of the SVM algorithm with a linear kernel.	Als Nächstes initialisieren und trainieren wir eine Instanz des SVM-Algorithmus mit einem linearen Kernel.	
2092 
f3b8a9e0-7f27-4a79-bc7b-1ebde5d92ef9	We do that by specifying the 'kernel' argument as 'linear'.	Zu diesem Zweck legen wir für das Argument "kernel" den Wert "linear" fest.	
2093 
a44a5686-aecf-45fe-8c2a-2218485942d3	Other valid arguments would be 'poly' for a polynomial kernel, 'rbf' for a radial basis function kernel, 'sigmoid', and 'precomputed.	Andere gültige Argumente sind "poly" für einen polynomialen Kernel, "rbf" für eine radiale Basisfunktion sowie "sigmoid" und "precomputed".	
2094 
ef370c3f-4c85-4f2a-aeb9-550ac6029eb6	Using [1}y_train.values.ravel(){2], we flatten the array to the required form [3}(n,){2], where [5}n{2] is the number of observations in the training data.	In der darauf folgenden Zeile werden die Daten mit [1}y_train.values.ravel(){2] in ein flaches eindimensionales Array der Länge [3}(n){2] umgewandelt, wobei [5}n{2] die Anzahl der Beobachtungen in den Trainingsdaten ist.	
2095 
e41d1599-e8b4-421e-a174-dc9ae98c611d	Code	Code	
2096 
6f62033a-dbce-4418-8f3f-38805dbd1b3b	clf = svm.SVC(kernel='linear')[1]clf.fit(X_train, y_train.values.ravel())	clf = svm.SVC(kernel='linear')[1]clf.fit(X_train, y_train.values.ravel())	
2097 
61f29e55-e39a-4560-af09-0b39bc0b6c74	﻿We can now generate predictions for the test set using the trained classifier.	Nun können wir mit dem trainierten Klassifikator Vorhersagen für den Testdatensatz  erstellen.	
2098 
e656df5c-29dc-47dd-9766-ef9debe65b80	Code	Code	
2099 
5e13cc7e-9807-4f8f-a922-6d11f1af4fb1	y_pred = clf.predict(X_test)	y_pred = clf.predict(X_test)	
2100 
b002c257-1b32-41ba-a03a-26d7eb0600cd	﻿To evaluate how well our model performed on the test set, we should check the confusion matrix.	Um zu beurteilen, wie gut unser Modell hier abschneidet, erzeugen wir eine Wahrheitsmatrix (confusion_matrix).	
2101 
c7f07c9f-a4f7-4b04-9f33-69c4ac1b949f	Code	Code	
2102 
8d869711-d5d8-47d8-8bba-4250cba7ce71	print(confusion_matrix(y_test, y_pred))	print(confusion_matrix(y_test, y_pred))	
2103 
7bd96372-5a29-4681-8c32-8abccfa6fef3	﻿The following confusion matrix is then output in the console.	Daraufhin erscheinen in der Konsole die folgenden Werte.	
2104 
9a6ea14c-10c8-418a-9881-5a90f8c43e37	Code	Code	
2105 
b9fa232e-9b4c-4c41-88d2-abf33aa87ec7	\[\[ 59  4][1] \[ 2 106]]	\[\[ 59  4][1] \[ 2 106]]	
2106 
8f470cd2-5dbe-4938-840e-f88bdce2c99a	According to the confusion matrix, our classifier shows 59 true positives, 106 true negatives, four false negatives, and two false positives when predicting on the test set.	Aus dieser Wahrheitsmatrix geht hervor, dass unser Klassifikator bei der Verarbeitung der Testdaten 59 richtig-positive, 106 richtig-negative, vier falsch-negative und zwei falsch-positive Zuordnungen ausgegeben hat.	
2107 
549b0abe-28d2-4b6c-948e-df3d8a4835ed	Therefore, the results indicate a very good prediction performance.	Das deutet auf eine sehr gute Vorhersageleistung hin.	
2108 
caadf00b-1d86-4b24-a7e7-b12e0b8f8b9e	As a final step, we can print the accuracy of our model.	Um diesen Befund zu untermauern, ermitteln wir im letzten Schritt die Korrektklassifizierungsrate unseres Modells.	
2109 
49b48969-6b5a-40eb-bb44-b4bb0bd078b3	Code	Code	
2110 
26cde3c5-0199-4d4f-9edc-922baf784a4a	accuracy_score(y_test, y_pred)[1]# console output:	accuracy_score(y_test, y_pred)[1]# console output:	
2111 
6a9ccc74-b229-4a1a-af02-cb632f32b54d	0.9649122807017544	0.9649122807017544	
2112 
7a265023-db95-4231-91ac-71d049d20396	Self-Check Questions	Fragen zur Selbstkontrolle	
2113 
6a3c10f4-2cf8-40e2-af71-a6596264770a	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
2114 
a9cb6de3-7840-4d07-8457-aff53db6dd33	Support vector machines can be used for both linear and nonlinear classification.	Stützvektormaschinen können sowohl für die lineare als auch für die nichtlineare Klassifizierung verwendet werden.	
2115 
c4f8fce5-95e2-4dc2-aa28-923b4c61abba	To make this possible, the	Möglich wird dies durch den	
2116 
2873ca00-8647-4445-a386-c03aaafec6d9	is employed.	.	
2117 
59f4ffa4-d32f-48cf-9a27-34a72d0b0359	kernel trick	Kernel-Trick	
2118 
559c24b3-3050-4292-be5d-938d861b5014	Summary	Zusammenfassung	
2119 
399d55ff-76a6-44d6-a7ba-f8b097d5658f	A support vector machine (SVM) is an algorithm that can perform both classification and regression tasks.	Stützvektormaschinen (SVMs) können sowohl Klassifizierungs- als auch Regressionsaufgaben erfüllen	
2120 
5bcd0112-bacd-4193-94cc-c0ce1579e860	They are among the most popular and powerful supervised learning algorithms in existence.	und gehören derzeit zu den gängigsten und leistungsfähigsten Algorithmen für überwachtes Lernen.	
2121 
eab059a4-b066-4205-bb7e-67fe8242509a	The idea behind SVMs is to divide the data into two classes separated by a classification boundary in a higher dimensional space (the hyperplane).	Das Verfahren basiert auf der Einpassung einer Klassifizierungsgrenze (der Hyperebene) in einen höherdimensionalen Merkmalsraum.	
2122 
79a022de-2178-44d2-aaa4-cf2f68fd0abc	There are two types of support vector machines: linear and nonlinear SVMs.	Zu unterscheiden ist dabei grundsätzlich zwischen linearen und nichtlinearen SVMs.	
2123 
287f360c-de88-4a23-9a0b-479c9e423858	Linear SVMs are used for datasets that can be classified with the decision boundary of a straight line.	Lineare SVMs werden für Datensätze verwendet, die in ihrem ursprünglichen Zustand anhand einer geradlinig verlaufenden Entscheidungsgrenze klassifiziert werden können.	
2124 
0c488280-405d-4292-b947-7d460e6d1cf9	Nonlinear SVMs are used for datasets that are not linearly separable.	Nichtlineare SVMs werden für Daten genutzt, die nicht unmittelbar linear separierbar sind.	
2125 
27e8bca4-6f2f-40d3-a5c5-00e59a19d0b7	Nonlinear SVMs map the data into a higher dimensional space, where they are more easily separated.	In diesem letzteren Fall	
2126 
07ea899b-52b6-45f0-8a13-a7f3d6f358b4	This is done by using the kernel trick and simply calculating the mathematical relationship between the points as though they were in higher dimensions.	wird der Kernel-Trick angewandt und die mathematische Beziehung zwischen den Datenpunkten so berechnet, als befänden sie sich in einem höherdimensionalen Raum, in dem sie leichter zu trennen sind.	
2127 
6aa7d07d-17e5-4b49-b9c9-6ab54f9dc893	Therefore, SVMs use kernel functions to find the optimal hyperplane for dividing the dataset into two classes.	Dies ist möglich mithilfe sogenannter Kernelfunktionen, die die optimale Hyperebene für die Zweiteilung des Datensatzes identifizieren.	
2128 
8f5adfae-57e5-44fc-8925-5ea0edcb64b2	What makes these kernel functions so special is that they do not actually perform the transformation to higher dimensions.	Ihr besonderer Vorteil besteht darin, dass sie die Transformation in höhere Dimensionen nicht wirklich durchführen,	
2129 
e1d106dc-218a-40b7-a0a8-6bc94aa01269	Instead, they directly compute the distance without ever actually computing the expansion.	sondern direkt den Abstand der Datenpunkte im erweiterten Merkmalsraum ausgeben, ohne die Erweiterung selbst zu berechnen.	
2130 
4e5b3afe-0c82-4ef4-9247-766d8d2bbc7e	Decision & Regression Trees	Entscheidungs- und Regressionsbäume	
2131 
fe63194c-221a-4064-9f91-6bf15e7c0d56	Decision & Regression Trees	Entscheidungs- und Regressionsbäume	
2132 
8b5116bf-dc8f-48ae-994d-304a381af466	Study goals	Lernziele	
2133 
f0d3da31-5b37-4abb-b92c-3b8610fc2c9f	On completion of this unit, you will be able to …	Nach Abschluss dieser Lektion werden Sie in der Lage sein, ...	
2134 
1f799995-ec55-447d-9a1d-39c6897eefed	explain the concept of decision and regression trees.	das Grundprinzip von Entscheidungs- und Regressionsbäumen zu erklären.	
2135 
d8e2252f-7921-4af0-9ccb-72b0d9cd3082	explain the power of the ensemble methods widely used in practice.	die Leistungsfähigkeit der gängigsten Ensemblemethoden für praktische Anwendungen zu erläutern.	
2136 
93502134-b8ad-4e12-a2bc-ef31339174f8	define bagging and boosting.	die Begriffe Bagging und Boosting zu definieren.	
2137 
21b1da0e-cbae-4c28-b65f-5b7d18d6fa53	apply two very popular ensemble models on your own with the use of Python.	zwei häufig verwendete Ensemblemodelle in Python zu implementieren.	
2138 
dab1836a-2d74-4bca-96b4-31c446bff3a8	Introduction	Einleitung	
2139 
9782d8b5-0d94-4986-be9a-0cb9aedd5265	Without a doubt, the decision tree is one of the most famous supervised learning models.	Der Entscheidungsbaum ist zweifelsohne eines der bekanntesten Modelle für das überwachte Lernen	
2140 
f7bbb1bc-339d-461e-88a8-b135b6c05bae	Depending on the problem we need to solve, decision tress can be used for both classification (classification trees) and regression (regression trees).	und kann je nach Art des zu lösenden Problems entweder für die Klassifizierung (d. h. als Klassifikationsbaum) oder für die Regression (d. h. als Regressionsbaum) verwendet werden.	
2141 
6c083c9b-0a8a-4fd2-acde-4832df15deed	These trees achieve impressive predictive performance when a large number of them are bundled together, thus creating one strong estimator.	Dabei erreichen die betreffenden Bäume (in beiden Fällen) eine beeindruckende Vorhersageleistung, wenn eine große Anzahl von ihnen gebündelt und zu einem Schätzer kombiniert wird.	
2142 
de3da2c1-8353-4036-b867-aa875034541b	Such ensemble methods, as they are commonly known, are frequently used to solve a wide variety of problems.	Eben diese vielfältig einsetzbaren Ensemblemethoden	
2143 
4fd0f2be-0c97-4bed-8a8d-f9fdd2191530	This unit will cover decision and regression trees, as well as these powerful and widely used ensemble methods.	bilden das Thema der vorliegenden Lektion, die außerdem als Einführung in die Verwendung von Entscheidungs- und Regressionsbäumen dient.	
2144 
396af7c5-1d82-4611-903c-7b2e633bd4d5	In this unit, we will find answers to the following questions:	Dementsprechend finden Sie auf den nächsten Seiten Antworten auf die folgenden Fragen:	
2145 
0d7bbcef-45b7-4316-a6c1-63ad1489410b	How do tree-based algorithms generally work?	Wie funktionieren baumbasierte Algorithmen generell?	
2146 
d2af0a28-461f-4ef1-91c1-10b114a7fcdc	How do decision trees solve classification problems?	Wie lösen Entscheidungsbäume Klassifizierungsprobleme?	
2147 
ee6b1712-7c57-4d76-b1d6-a17836314056	How do regression trees solve regression problems?	Wie lassen sich Regressionsprobleme mithilfe von Regressionsbäumen lösen?	
2148 
17b22ffd-1298-48cd-a1b0-e809335fa631	How do ensemble methods work and how do they combine large numbers of trees to make one strong estimator?	Wie funktionieren Ensemblemethoden bzw. wie lässt sich eine große Zahl von Bäumen zu einem einzigen starken Schätzer kombinieren?	
2149 
138504f4-e55a-45cc-ac7e-006aa94bbbff	How can we apply random forests and gradient boosting, two very well-known ensemble methods, using Python?	Wie können wir die bekannten Ensemblemethoden "Random Forest" und "Gradient Boosting" in Python implementieren? 	
2150 
b86724be-e12b-4475-a0dc-e99061c7df11	Decision & Regression Trees	Entscheidungs- und Regressionsbäume	
2151 
b594d925-14e9-47b6-9a0a-bf56c5728cb4	Decision & Regression Trees	Entscheidungs- und Regressionsbäume	
2152 
31e7dc34-e153-4e81-ab37-e582e8cd59dd	The core concept behind decision and regression trees is the splitting of the dataset in a step-by-step manner based on descriptive variables.	Das Grundprinzip der Erstellung von Entscheidungs- und Regressionsbäumen ist die schrittweise Aufteilung des Datensatzes auf der Grundlage von beschreibenden Variablen.	
2153 
558681f3-50f1-402f-8964-c5cfef80295e	Starting from the complete dataset (i.e., the root), the data gradually branch out through the splits (i.e., the nodes) until reaching the last level of the tree (i.e., the leaves).	Der Prozess beginnt also mit der Aufsplittung der kompletten Daten (an der sogenannten Wurzel) in zwei oder mehr Teildatensätze (oder Knoten), die sich dann wiederum verzweigen können, bis schließlich (mit Erreichen der Blattknoten)	
2154 
79f31a5c-a31d-4ede-81a1-632f873e21ee	At this point, the dataset cannot naturally be split any further, or, conversely, a stop criterion is applied.	keine weitere Aufteilung mehr möglich oder ein Stoppkriterium erfüllt ist.	
2155 
cc4d14fb-4960-4c3e-a209-843b88f2572a	As previously mentioned, one speaks of a decision tree in the case of a classification task and a regression tree in the case of a regression task.	Dabei wird der fragliche Baum im Fall einer Klassifizierungsaufgabe als Entscheidungsbaum, im Fall eines Regressionsproblems dagegen als Regressionsbaum bezeichnet.	
2156 
6ccee380-caa5-4faf-8681-0569a80296fd	Decision trees make predictions about observations by sorting them along the tree, starting from the root node and ending at one of the leaf nodes.	Gemäß dem oben beschriebenen Funktionsprinzip liefern Entscheidungsbäume Vorhersagen über Beobachtungen, indem sie diese entlang des Baumes sortieren, beginnend mit dem Wurzelknoten und an einem der Blattknoten endend.	
2157 
69f60f01-9420-4bfb-892a-7cad56b9b002	This leaf node ultimately yields the prediction.	Dieser Blattknoten enthält schließlich die eigentliche Vorhersage.	
2158 
0b8f87b0-d05a-446a-972a-607db9f0fdea	Each node on the tree is, essentially, a test case for a specific feature of the respective observation, and each branch represents a possible value of said feature.	Jeder andere Knoten des Baums ist im Grunde ein Test auf ein bestimmtes Merkmal der jeweiligen Beobachtung, sodass jeder Zweig eine mögliche Ausprägung dieses Merkmals repräsentiert.	
2159 
bc0eec31-0c8f-4f23-a6d0-d399cdf516c8	Thus, the observation receives its classification through a process comprising the following steps:	Dementsprechend umfasst der Klassifizierungsprozess zur Einordnung einer Beobachtung die folgenden Schritte:	
2160 
5123b956-ef97-4964-bfab-0eddd363d390	First, the observation is queried at each tree level with respect to the respective feature.	Zunächst wird die Beobachtung auf jeder Baumebene in Bezug auf das dort abgefragte Merkmal geprüft	
2161 
48916fa9-bc4e-4f79-a328-60a79b0911c6	It then branches out to the next (lower) level, depending on the feature’s value.	und dann je nach Ergebnis zu einem Folgeknoten auf der nächsten (niedrigeren) Ebene weitergeleitet.	
2162 
64a3da6e-e9e8-48d0-ac7a-be83263616f8	This process is then repeated until the observation reaches one of the leaf nodes.	Dieser Vorgang wird so lange wiederholt, bis die Beobachtung einen der Blattknoten erreicht.	
2163 
a1ab8322-2dc7-4666-bdfe-b8abba013e33	It is at that point that the prediction is finally provided.	An diesem Punkt wird schließlich die Vorhersage bereitgestellt.	
2164 
370c8e97-15af-4c00-9d2c-511d42b8c3a4	The following figure shows the structure of a decision tree based on a simplified example.	Die folgende Abbildung zeigt die Struktur eines solchen Entscheidungsbaums für ein einfaches Beispiel.	
2165 
9dc3d4ab-8ae7-443f-a15b-7a4bc5666ef9	In this example, the tree helps to make predictions concerning the likelihood that someone will go for a walk (output class means “yes”) or not (output class means “no”) depending on the current weather conditions.	In diesem Szenario sagt der Baum in Abhängigkeit der aktuellen Wetterbedingungen voraus, ob eine bestimmte Person spazieren gehen wird oder nicht.	
2166 
e56ac707-7e43-4721-8adb-02d2add57699	Decision Tree	Entscheidungsbaum	
2167 
5e68f2ba-b482-45ff-8fd7-c78391db00f6	Hofer (2021).	Hofer (2021).	
2168 
eae89603-fa81-4977-b2df-765046a6bdf8	[1]	[1]	
2169 
09836716-27a9-4148-9c58-22a087a52bed	﻿The prediction results of this binary classification problem are taken from the final (and lowest) level of the tree (i.e., the leaf nodes).	Somit haben wir es hier mit einem binären Klassifizierungsproblem zu tun, dessen mögliche Vorhersageergebnisse auf der letzten (und niedrigsten) Baumebene zu finden sind.	
2170 
d3d83c95-c548-400b-ba2b-109bdfacac7c	The nodes of this tree can take the values “yes” (i.e., the person will go for a walk) or “no” (i.e., the person will not go for a walk).	Die dort vorfindlichen Blattknoten können die Werte "ja" (d. h. die Person wird spazieren gehen) oder "nein" (d. h. die Person wird nicht spazieren gehen) annehmen.	
2171 
1d2beffb-909c-4638-a8a7-0b28178d4700	Based on a decision tree built in this way, each observation can be classified.	Ihnen vorgelagert ist die eigentliche Baumstruktur, die die Klassifizierung beliebiger Beobachtungen aus unserem Merkmalsraum ermöglicht.	
2172 
0ebf08fc-d5c1-406a-bdc9-6d968c57b5df	For example, on a day with sunny weather and a normal level of humidity, the tree predicts that this hypothetical person will go for a walk.	So prognostiziert der Baum beispielsweise an einem Tag mit sonnigem Wetter und normaler Luftfeuchtigkeit einen Spaziergang,	
2173 
93685016-10b7-4c02-bca9-5f6813322beb	On a rainy, windy day, however, the tree predicts that this person will not go for a walk.	für einen regnerischen, windigen Tag dagegen nicht.	
2174 
f13213c8-1c63-4728-9238-dced80aa0fc5	It is here that the advantage of using decision trees quickly becomes apparent: their structure and functionality are easy to follow and their prediction results easy to interpret.	Der große Vorteil der Verwendung derartiger Entscheidungsbäumen besteht demnach darin, dass ihre Struktur und Funktionsweise leicht nachvollziehbar ist und ihre Vorhersageergebnisse einfach zu interpretieren sind.	
2175 
41ad7107-9701-4f5c-874e-5900ac58f331	Regression Trees	Regressionsbäume	
2176 
3effe029-6720-4fda-ad3a-0127805f6b10	As mentioned previously, tree-based structures can also be used on numerical features and building regression models.	Wie bereits erwähnt, können baumbasierte Strukturen auch für numerische Merkmale und die Erstellung von Regressionsmodellen verwendet werden.	
2177 
a954335c-7f74-4550-b38c-791b8be59e6d	Numerical features become more manageable through a discretization process, i.e., by assigning threshold values.	Dafür ist es allerdings erforderlich, die entsprechenden Merkmale durch Diskretisieren (d. h. durch die Festlegung von Schwellenwerten) handhabbarer zu machen.	
2178 
72ebb478-0c8c-4c89-8656-40bc34697cad	This way, these numerical features can be treated like categorical features.	Wir behandeln die vorliegenden numerischen Merkmale also wie kategoriale Merkmale	
2179 
468f9527-0135-431c-866d-53e8b87c20f5	In this case, an observation is examined with respect to a numerical feature being less than (or equal to) or greater than (or equal to) the defined threshold value.	und untersuchen jede Beobachtung an jedem Knoten dahingehend, ob der festgelegte merkmalsspezifische Schwellenwert über- oder unterschritten (oder genau egalisiert) wird.	
2180 
08948602-8a2e-4a50-ad82-0dad401709ea	It then moves toward the appropriate branch to reach the next level of the tree.	Anschließend gelangen wir über den entsprechend gekennzeichneten Zweig zur nächsten Baumebene.	
2181 
ce124bd9-9d13-41ca-93d0-8317374210a0	If the label to be predicted is a numerical variable, i.e., a regression problem must be solved, then the values that can be taken and predicted are expressed in the leaf nodes.	Falls es sich darüber hinaus auch bei dem vorherzusagenden Label um eine numerische Größe handelt, haben wir es mit einem genuinen Regressionsproblem zu tun. Um dieses baumbasiert zu lösen und für alle mögliche Merkmalsausprägungen passende Schätzungen zu erstellen, ordnen wir den einzelnen Blattknoten keine Kategorien, sondern numerische Vorhersagewerte zu.	
2182 
8908f46f-d818-438a-bb72-b2878e0705a3	Both cases, i.e., the handling of numerical features and the prediction of numerical values, are illustrated in the following figure.	Die folgende Abbildung zeigt einen solchen Regressionsbaum (der alle Beobachtungen nach Merkmalswerten filtert und am Ende einen numerischen Output ausgibt).	
2183 
921de1c9-2da5-4e49-89b5-15bb97a93ec0	Regression Tree	Regressionsbaum	
2184 
301ff373-9ac8-41cb-b3df-33d716c1b186	Hofer (2021).	Hofer (2021).	
2185 
bd4f7633-66b3-4a57-8a3a-e8b561c7b116	[1]	[1]	
2186 
1344f2ce-f2ff-4e3d-8bf3-8b4dd8dded64	In comparison to the binary classification problem seen in our previous example, we now see a regression tree predicting the duration of a walk based on both weather data and the walker’s age.	Dieser Regressionsbaum unterscheidet sich von dem zuvor dargestellten Klassifizierungsbaum insofern, als er die Dauer des Spaziergangs auf der Grundlage von Wetterdaten und dem Alter des Spazierengehenden vorhersagt.	
2187 
a78ddf92-3c57-4b34-aa83-9c41169eda8b	This model predicts, for example, that a 24-year-old person will walk for 24.3 minutes on a day when it is 18° C (64° F) with 60 percent humidity.	So gibt das Modell beispielsweise an, dass eine 24-jährige Person an einem Tag mit einer Temperatur von 18 °C und einer Luftfeuchtigkeit von 60 % genau 24,3 Minuten auf ihren Spaziergang verwenden wird.	
2188 
df492220-489f-4ed5-a4ee-c9effcb987bc	Split Criteria	Splitkriterien	
2189 
c09099c0-9de9-459a-b4c7-90093f320cbc	It is at this point where we must answer one essential question concerning the prediction results:	An dieser Stelle müssen wir eine wesentliche Frage zur Reihenfolge der Klassifizierungs- bzw. Vorhersageschritte beantworten:	
2190 
782011cf-5658-44ce-91f7-5383685578c8	How is it decided that one specific feature is placed at any given level in the decision tree?	Wie lässt sich entscheiden, welches Merkmal auf welcher Ebene des Entscheidungsbaums platziert wird?	
2191 
6a620a6c-a516-4b76-9289-fcdb26f9b8a2	Or, more pointedly, which features are the best classifiers and, consequently, should be at the highest possible level of the tree?	Oder, genauer gesagt, welche Merkmale sind die besten Klassifikatoren und sollten daher möglichst weit oben in der Baumstruktur angesiedelt werden?	
2192 
05c8ab48-dc4e-49d5-82f6-94573b37d648	This decision is made by the split criterion.	Wie im Folgenden erläutert wird, stehen für derartige Entscheidungen verschiedene Splitkriterien zur Verfügung.	
2193 
dfc42114-b049-4b70-92b0-b62eaf8aa569	We will now take a look at two of the most popular and frequently used split criteria for decision trees: information gain and Gini impurity.	Dazu zählen zum einen der Informationsgewinn und der Gini-Koeffizient (zwei gängige Splitkriterien für Entscheidungsbäume),	
2194 
45f205e9-8ab4-423c-a7bf-7b9c0e14ad98	We will then examine a split criterion designed for regression trees: the minimization of the sum of squared errors (SSE).	zum anderen die Summe der Abweichungsquadrate (sum of squared errors, SSE), die die Grundlage für die Strukturierung von Regressionsbäumen bildet.	
2195 
731dfb34-4b33-45ce-aada-cd2b093c2927	Information gain	Informationsgewinn	
2196 
21b01427-9f51-4195-ae3a-d45e8f4b4a26	Information gain is based on the concept of entropy (not to be confused with	Der Begriff "Informationsgewinn" beruht auf dem aus der Physik stammenden Maß der Entropie, das nicht mit der	
2197 
96ab061e-9682-4af2-bb66-0cebfa56161a	enthalpy	Enthalpie	
2198 
57763eae-ba90-4fa3-8786-832b105d6f03	Enthalpy	Enthalpie	
2199 
a3485e66-7205-4ba1-baf1-3b138d698bea	This concept describes the energy state of a system.	Dieser Begriff beschreibt den energetischen Zustand eines Systems.	
2200 
6436be14-e042-4104-b04a-846a494aa303	), which is a measure stemming from the field of physics describing the chaos, disorder, or diversity of states within a system.	verwechselt werden sollte und (im Unterschied zu dieser) das Chaos, die Unordnung oder die Vielfalt der Zustände innerhalb eines Systems beschreibt.	
2201 
53fb35cd-894a-4e1b-85fb-6bbaa2df698a	In decision trees, entropy refers to a node’s impurity.	In Entscheidungsbäumen bezieht sich die Entropie auf die Unreinheit bzw. auf die Unordnung eines Knotens	
2202 
b5182c3e-c503-4e1c-91fc-35524ec54e36	Information gain measures the expected reduction in entropy (i.e., its level of impurity or disorder) and thus the effectiveness of a feature when classifying the training data (Mitchell, 1997).	und der Informationsgewinn misst die erwartete Reduktion der Entropie durch die Berücksichtigung eines Merkmals bei der Klassifizierung der Trainingsdaten (Mitchell, 1997).	
2203 
68c85125-bffa-4cda-8646-3ceb0bdcdc54	Expressed more formally, the information gain [1}G(S, A){2] of a feature [3}A{2] relative to a set of observations [5}S{2] is given by	Dabei ist der Informationsgewinn [1}G(S, A){2] eines Merkmals [3}A{2] relativ zu einer Menge von Beobachtungen [5}S{2] gegeben durch:	
2204 
17b0cfa1-af09-47e1-ab30-cbfdbc8aa54b	G	G	
2205 
8f5406a5-263f-44df-8f8e-68afb5e31c51	(	(	
2206 
c143220d-b173-4459-9629-f7133ed92553	S	S	
2207 
81b4a434-00b6-40d3-9fb4-852cf75d1721	,	,	
2208 
85193c9f-b846-46f5-bff6-dcf6ee4dc850	A	A	
2209 
808b4bae-1671-4a58-9134-5b767d1da181	)	)	
2210 
dd51a802-8104-4aeb-b031-d36c7b4d9328	=	=	
2211 
3ab56310-283b-4709-bb0b-535c037f34ae	Entropy	Entropie	
2212 
07843334-0fd2-4d07-af55-7e686d588d11	(	(	
2213 
ec20b628-7e2d-479a-baba-0758662201d9	S	S	
2214 
21c7c063-6d9c-4204-903c-bd3d60364b4a	)	)	
2215 
141d884c-72b5-4c2d-8422-cbf08fc6c2da	-	-	
2216 
61c6f02a-385d-44c8-b4e6-08c71323688c	∑	∑	
2217 
520cbda0-c8bc-4815-9a72-0e41c3d9083a	v	v	
2218 
81f21c50-ef55-4707-a0f1-eacdcde428b8	∈	∈	
2219 
7e899f96-f658-47df-9b0e-34e861af3b95	values	Werte	
2220 
8b788071-864c-43a0-bfc8-abc3e5266355	(	(	
2221 
1750197c-1905-4a15-8b36-ad356ba1b616	A	A	
2222 
5dbe4f78-ccbe-4fc2-b798-a368ab77aa38	)	)	
2223 
18b9ee76-c100-4f9f-bfe6-fa76117f479f	|	|	
2224 
b3aecf8c-533c-4aff-b6e9-1d5a42b4f5ff	S	S	
2225 
9af603b3-e2fa-45c9-bcf8-ddb5fc01ab67	v	v	
2226 
7ca6a999-86be-453d-8376-c5b8b8521b58	|	|	
2227 
db6b60b6-86f0-44c4-b345-13ccc14c1de9	|	|	
2228 
c29e4a47-9822-4447-acb6-1b72d719e8a4	S	S	
2229 
ca66c8ef-8525-4594-9134-1819a18c5de7	|	|	
2230 
30550a72-82f6-4cea-8e7f-c78064119558	Entropy	Entropie	
2231 
4870cb67-c9cb-4dd2-93fb-6824ff0829e5	(	(	
2232 
51c5f934-a61b-44e2-8c3a-ae32ca29bd9f	S	S	
2233 
c212f479-1681-4532-b2fe-72352a045ae3	v	v	
2234 
6f951192-7975-41e1-a88c-265a51417d0b	)	)	
2235 
acee70c7-4d37-4857-b277-81125580fe8d	where [1}values(A){2] represent all possible values for feature [3}A{2], and [5}S[6}v{7]{2] is the subset of observations [9}S{2], for which feature A has a value [11}v{2] (Mitchell, 1997).	In dieser Formel bezeichnet der Ausdruck [1}Werte(A){2] alle möglichen Werte für das Merkmal [3}A{2] und [5}S[6}v{7]{2] die Teilmenge der Beobachtungen [9}S{2], für die das Merkmal A einen Wert [11}v{2] hat (Mitchell, 1997).	
2236 
ae7716f8-39ac-41b5-bb2d-6854ce9e0ec4	In this formal definition, the first term describes the entropy of the original dataset, and the second term describes the entropy after the dataset has been partitioned using feature [1}A{2]. The latter represents the sum of entropies for each subset [3}S[4}v{5]{2], weighted by the proportion of observations [7}|S[8}v{5]|/|S|{2] belonging to said subset (Mitchell, 1997).	Des Weiteren beschreibt der erste Term die Entropie des ursprünglichen Datensatzes, während der zweite Term die Entropie des Datensatzes nach dessen Aufteilung mithilfe des Merkmals [1}A{2] angibt. Letzterer berechnet sich aus der Summe der Entropien für jede Teilmenge [3}S[4}v{5]{2], gewichtet mit dem Anteil der Beobachtungen [7}|S[8}v{5]|/|S|{2] , die zu dieser Teilmenge gehören (Mitchell, 1997).	
2237 
9c0df056-7f54-45c8-96c3-e7d010731684	Using the information gain as a split criterion on each level of the tree, the feature A that minimizes the second term and thus leads to the greatest possible reduction of [1}Entropy(S) {2]is selected as the separator of the dataset on the appropriate level of the tree.	Wenn wir den so definierten Informationsgewinn als Splitkriterium verwenden, wird auf jeder Ebene des Baums jeweils das Merkmal A als Trenner gewählt, das den zweiten Term minimiert und somit zur größtmöglichen Verringerung der [1}Entropie(S) {2]führt.	
2238 
e1e4306e-c444-4ab4-971b-7ecdb4dd0b1e	Thus, starting from the root node and moving toward the leaf nodes on each level of the tree, the best classifier is selected through the information gain.	Der entsprechende Prozess beginnt am Wurzelknoten und setzt sich von dort aus schrittweise in Richtung der Blattknoten fort.	
2239 
e7d66676-fd11-40e0-b19a-7bd2f7a9a35b	Consequently, we start building the decision tree with the strongest separators.	Somit beginnt die Erstellung des Entscheidungsbaums mit dem stärksten Trenner.	
2240 
813f17a7-f795-4152-989e-3ec07115227c	The deeper we descend through the structure of the tree, the weaker the features used on the respective levels (i.e., regarding their suitability as classifiers).	Je tiefer wir von dort aus in der Struktur des Baums hinabsteigen, desto schwächer sind die auf den jeweiligen Ebenen verwendeten Merkmale ( hinsichtlich ihrer Eignung als Klassifikatoren).	
2241 
d6da69ce-91ca-4a80-9668-947d5ce71594	Gini impurity	Gini-Koeffizient	
2242 
95d63d6b-b376-4ede-930c-418fc5b35855	The Gini impurity (GI), also referred to as the Gini index, is a measure of impurity or divergence within a dataset where a small value indicates that a node chiefly contains observations from one single class (Boehmke & Greenwell, 2019).	Der Gini-Koeffizient (auch: Gini-Index, GI) ist ein Maß für die Unreinheit oder Divergenz innerhalb eines Datensatzes, wobei ein kleiner Wert darauf hinweist, dass ein Knoten hauptsächlich Beobachtungen aus einer einzigen Klasse enthält (Boehmke & Greenwell, 2019).	
2243 
b6c97110-9815-4afa-9b76-c297f0b9e331	The GI can be interpreted as the probability of a randomly chosen observation to be misclassified and is formally defined as follows (Breiman et al., 1984):	In unserem Kontext kann der GI als Wahrscheinlichkeit der falschen Klassifizierung einer zufällig ausgewählten Beobachtung interpretiert werden und ist formal wie folgt definiert (Breiman et al., 1984):	
2244 
0f068cd9-32df-4289-aee8-1e158fd24c0a	G	G	
2245 
93591b69-9559-4dc8-b8c6-0964cc60a4b8	I	I	
2246 
4f33d825-8124-42c2-b3f8-32e0394de0e7	=	=	
2247 
434dcd65-7cb7-4843-a046-de9b3df23249	1	1	
2248 
85b2dee8-e72d-4b0a-abfa-4da9724f2363	-	-	
2249 
91940dde-3b9d-4b22-a59e-424036cb9034	∑	∑	
2250 
8d7929c6-c086-45b8-ab85-1d399ffa5aad	i	i	
2251 
1aba295f-b78c-4844-adeb-aa314d5f80ee	=	=	
2252 
f5a41ae1-dfd3-4d04-ad90-c1ede9805f6c	1	1	
2253 
f08fcfea-10e7-4f42-ac2c-e84764f1bb7b	(	(	
2254 
66827a1a-c560-4de6-8f81-c9e477e38100	p	p	
2255 
8a248074-9d7d-47f4-a346-d511ee798195	i	i	
2256 
90fb2622-1928-4ed2-bc61-643326820f31	)	)	
2257 
529d3d52-dedf-4d15-8b06-5cfe6b9d7b00	2	2	
2258 
9f776285-5dff-4880-b547-86e1f36b85bf	The second term here expresses the share of observations [1}p[2}i{3]{4] belonging to class [5}I{4] for a given node.	In dieser Gleichung gibt der zweite Term den Anteil der Beobachtungen [1}p[2}i{3]{4] an, die einen gegebenen Knoten erreichen und zur Klasse [5}I{4] gehören.	
2259 
aa22fa37-6450-400c-855c-6cfaa215c965	The GI for a node containing only observations of one class is, consequently, zero.	Dementsprechend nimmt der GI den Wert null an, wenn der fragliche Knoten nur Beobachtungen einer Klasse enthält.	
2260 
6fe3b945-3cc7-4d67-b0ee-e1bd3ba74dd8	Therefore, we want to minimize the GI, i.e., assign the feature that results in the lowest GI as the separator of the dataset on each level of the tree.	Unter Ausnutzung dieser Tatsache suchen wir den GI bei der Merkmalsauswahl zu minimieren und wählen folglich für jede Baumebene den Trenner mit dem niedrigsten GI.	
2261 
233d6e77-1983-48a8-ab0f-f4fce7249dda	Sum of squared errors (SSE)	Summe der Abweichungsquadrate (SSE)	
2262 
83491a6c-8c61-40e6-832f-f4eae52c13ab	With regards to regression trees, the most common split criterion is the minimization of the sum of squared errors (SSE).	Die für die Erstellung von Regressionsbäumen am häufigsten verwendete Methode ist die Minimierung der Summe der Abweichungsquadrate (SSE).	
2263 
44d1dc3e-8081-4b7a-b9b7-ae5812928afb	If we want to split a dataset [1}S{2] into two subsets [3}S[4}1{5]{2] and [7}S[8}2{5]{2], the minimization of the SSE can be formally defined as follows:	Diese Größe kann für die Aufteilung des Datensatzes [1}S{2] in die beiden Teilmengen [3}S[4}1{5]{2] und [7}S[8}2{5]{2] folgendermaßen definiert werden:	
2264 
09fcd433-01ce-46b9-ae50-e13732396f6b	S	S	
2265 
85a77e3f-de43-406d-9c00-1a75a75fc1f9	S	S	
2266 
0ce3d06b-bf8a-4c72-bca4-8569fc24a1df	E	E	
2267 
b722bbad-971e-4f3e-93ec-90e7410c1db5	=	=	
2268 
7a0ee73a-8725-4093-89e5-7195742fd707	∑	∑	
2269 
809b851b-4658-427e-8fc5-01a72bba9f02	i	i	
2270 
8e56bd11-4964-475c-a71b-f574f65327a2	∈	∈	
2271 
49a9ef31-aca4-42f5-83ad-c47f17a6c4d2	S	S	
2272 
b7c51647-6771-412a-9e5f-2d47c7af6502	1	1	
2273 
210d80f0-51d6-4407-b4b4-01acbf9048b2	(	(	
2274 
6ccae6f5-a40f-484b-827c-cec5eed73a5b	y	y	
2275 
3784812f-933e-45ba-b71d-b2d6fe25b537	i	i	
2276 
f36de04b-551d-4fe0-b925-c6c3342a935a	-	-	
2277 
c2b90d05-b97a-429d-b391-a8d1a9bc33a9	y	y	
2278 
0ed82061-86e9-42f6-bedd-14484d96be4b	-	-	
2279 
361dd202-9c1b-4f11-8fe2-74426cfba012	1	1	
2280 
7c7d7661-fefb-4ff5-a9fc-f65e9e8a5545	)	)	
2281 
fd604104-74c6-4ed2-970d-f3cb0561b451	2	2	
2282 
d1714a7a-9b63-47ee-8b28-367d8e6fb988	+	+	
2283 
cbb13168-e841-4fcc-8e4b-fab68f149c03	∑	∑	
2284 
991ffc49-b9a6-4a25-8154-c7ca6c6e344b	i	i	
2285 
9087f269-f31f-41e0-83ac-3e0a30743e66	∈	∈	
2286 
446d3242-d521-4fac-89ba-280d751391db	S	S	
2287 
af86c88e-1804-4767-87ee-cf2f839c7d08	2	2	
2288 
3c36b111-6c67-4618-97a6-af594a8c2fb8	(	(	
2289 
aa9c2a35-1bac-49ed-8be6-e8f358a2dbd5	y	y	
2290 
2107e92a-178f-4313-90d4-73ad5ba841b8	i	i	
2291 
bd9eb53c-ccea-481b-9bfd-9d70ce58ad6f	-	-	
2292 
c6160d34-08c7-48d0-b2a2-eb7050fa4abd	y	y	
2293 
523190d5-abba-4f41-b8d6-603157287706	-	-	
2294 
3f5587b7-92c8-433e-9c5e-9c537690e2aa	2	2	
2295 
2074d127-7e65-4470-b57b-8bcaa7a4d2b0	)	)	
2296 
1aab8c39-8651-44be-870e-ba4d4e3b144e	2	2	
2297 
c5d11b04-e75c-4c45-815b-6312d378ca97	Here, [1}y[2}en{3]{4] expresses the actual value for observation[5} I{4], and [7}ȳ[8}1{3]{4] and [11}ȳ[12}2{3]{4] are the mean values of the left and right side of the possible split.	Hier bezeichnet [1}y[2}de{3]{4] den tatsächlichen Labelwert für die Beobachtung[5} I{4] und [7}ȳ[8}1{3]{4] und [11}ȳ[12}2{3]{4] die Mittelwerte der linken und rechten Seite der möglichen Aufteilung.	
2298 
695d6f13-f3ca-4ee7-bd97-c3fd8011fccc	Consequently, these vary with the choice of split point.	Somit variiert die SSE mit dem gewählten Splitpunkt	
2299 
ea96c97b-8738-4276-b7eb-70e86ccdac5a	The SSE (as a function of the location of the split point) is now minimized by selecting the split point that minimizes the deviations [1}y[2}i{3]-ȳ and y[4}i{3]-ȳ{6][7]of these two mean values from the actual values.	bzw. erweist sich als Funktion der Lage des Splitpunkts. Um sie zu minimieren, müssen wir folglich den Splitpunkt wählen, der die Abweichungen [1}y[2}i{3]-ȳ und y[4}i{3]-ȳ{6][7] der beiden Mittelwerte von den tatsächlichen Werten minimiert.	
2300 
39eaff5a-d1fe-4566-9bd4-9390bd89107a	Stop Criteria	Stoppkriterien	
2301 
ce6bae9d-2c6b-40cf-8ab0-d9a40a24a8ba	﻿As with other estimators, trees run the risk of reducing prediction performance should too many traits of the data be included in the model (e.g., by choosing large trees with many leaves).	Wie bei anderen Schätzern besteht auch bei Bäumen die Gefahr, dass sich die Vorhersageleistung verringert, wenn zu viele Merkmale der Eingabedaten in das Modell einbezogen werden (und wir beispielsweise große Bäume mit vielen Blattknoten wählen).	
2302 
5762d843-b0dc-45c0-86f9-f7b05bc0fd52	For this reason, caution should be taken, i.e., the goal is to build an ideal-sized tree (Breiman et al., 1984).	 In Anbetracht dessen besteht unser Ziel darin, einen Baum von idealer Größe zu erstellen (Breiman et al., 1984).	
2303 
6bdaa68c-359d-4621-ad62-e43c8e3f2805	Stop criteria restrict the growth of the tree to avoid the risk of overfitting.	Stoppkriterien begrenzen das Wachstum des Baums und verhindern so eine Überanpassung.	
2304 
e885fda9-2a8a-494f-a993-bf31eb08faca	According to Boehmke and Greenwell (2019), there are various methods for restricting tree growth, and “two of the most common \[…] are to restrict the tree depth to a certain level or to restrict the minimum number of observations allowed in any terminal node” (p. 180).	Nach Boehmke und Greenwell (2019) zählen "die Beschränkung der Baumtiefe auf eine bestimmte Ebene oder die Festlegung einer Mindestanzahl von Beobachtungen, die in jedem Endknoten zulässig sind" (S. 180), zu den gängigsten einschlägigen Verfahren.	
2305 
dc957707-9b89-4e69-8b32-02cc7214568b	Maximum depth	Maximale Tiefe	
2306 
b609efc2-ff9d-438b-8925-6101962e28c3	﻿If we limit the maximum depth of the tree, say, to three levels, the tree will only incorporate the three features that are the most suitable separators of the data into its structure.	Wenn wir die maximale Tiefe des Baums z. B. auf drei Ebenen begrenzen, wird seine Struktur letztlich nur die effektivsten Trenner umfassen.	
2307 
3dc129dd-8555-4915-86fa-f541e2d41bdc	In the following figure, we see a tree with exactly this limitation.	Die folgende Abbildung zeigt einen Baum mit genau dieser Einschränkung,	
2308 
0d9a42bf-c6e7-436b-a35f-e7db9cf70ac2	In this example, under different circumstances, the tree would comprise six levels.	der ohne Tiefenbegrenzung insgesamt sechs Ebenen umfassen würde.	
2309 
684a8298-4d44-48b5-a969-0cca27b427ef	Limiting the Maximum Depth of a Tree to Three Levels	Begrenzung der maximalen Tiefe eines Baumes auf drei Ebenen	
2310 
2b4b40c7-9260-43b2-b5ac-855cf2f4d72b	Hofer (2021).	Hofer (2021).	
2311 
cc580b03-9bb7-49ca-97f7-b3763dc05e0e	[1]	[1]	
2312 
44ed5d9d-9aa7-4e98-bc3c-2089327995f3	The more shallow the resulting tree, the less variance we have in the predictions; Boehmke and Greenwell (2019) argue that“at some point we can start to inject too much bias, as shallow trees are not able to capture complex patterns in our data” (p. 180).	Dabei gilt: Je flacher der resultierende Baum ist, desto geringer fällt die Varianz der Vorhersagen aus. Zugleich weisen Boehmke und Greenwell (2019) darauf hin, dass "an einem bestimmten Punkt eine zu starke Verzerrung auftreten kann, da flache Bäume nicht in der Lage sind, komplexe Muster in unseren Daten zu erfassen" (S. 180).	
2313 
4cc3bcdc-6c7d-4b06-9270-c1bfc75b5352	Minimum number of observations in terminal nodes	Mindestanzahl von Beobachtungen pro Endknoten	
2314 
dda26396-ac3f-4cc5-b8e4-1d52f3fe7907	﻿An alternative (or complementary) method for preventing the tree from fully growing, and thus running into the risk of overfitting, is to limit the nodes to a minimum number of observations.	Eine alternative (oder ergänzende) Methode zur Eindämmung der Baumgröße und der Gefahr einer Überanpassun ist die Festlegung einer Mindestanzahl von Beobachtungen pro Knoten.	
2315 
7d482835-b41c-4afc-a9dd-115ccd5700a0	This prevents a split at the point where terminal nodes would be created and results in fewer yielded observations than specified.	Dadurch wird eine weitere Aufspaltung des Baums an dünn besetzten Knoten verhindert.	
2316 
0315e0b5-4ff0-484f-9624-d7d1bbb5c68a	In the following figure, the minimum number of observations in the terminal nodes is set to “2.”	Die folgende Abbildung illustriert dies für eine Mindestanzahl von zwei Beobachtungen pro Endknoten.	
2317 
2f1287e8-aa62-4a10-984a-47311cd1d7c3	Limiting the Minimum Number of Observations in Terminal Nodes	Festlegung einer Mindestanzahl von Beobachtungen pro Endknoten	
2318 
f98f056d-af61-4457-823d-a34f5ff0a207	Hofer (2021).	Hofer (2021).	
2319 
03af2cf1-3969-4dd9-931c-b3bc8bf0c2f0	[1]	[1]	
2320 
0dc37a0f-5df3-42a0-ad23-d7f9a86db5ba	﻿According to Boehmke and Greenwell (2019), “a terminal node’s size of one allows a single observation to be captured in a leaf node” (p. 180).	Nach Boehmke und Greenwell (2019) "ist es bei erlaubten Endknotengrößen von eins möglich, dass eine einzelne Beobachtung in einem Blattknoten erfasst wird" (S. 180).	
2321 
622e6178-364b-4e80-83b3-ec0b04b7ae95	This leads to high variance and a poor level of generalizability.	Dies führt zu einer hohen Varianz und einer schlechten Verallgemeinerbarkeit des Modells.	
2322 
7c1ac6ff-a94f-4053-9a05-a52a55010b27	Conversely, large values constrain further splits, thereby reducing variance (Boehmke & Greenwell, 2019).	Umgekehrt schränken höhere Mindestwerte weitere Aufteilungen ein und verringern so die Varianz (Boehmke & Greenwell, 2019).	
2323 
921afd08-2cd4-4d36-9e33-197a1f2dcef6	Tree Pruning	Pruning	
2324 
cb20fe8a-00ec-4d64-b653-b4ec79ef4c17	Another way of restricting the full growth of the tree via stop criteria is to use pruning.	Das sogenannte Pruning bietet eine weitere Möglichkeit, das Wachstum eines Baums mithilfe von Stoppkriterien zu begrenzen.	
2325 
b29ea068-cc3a-4e38-a6ad-9979542df95b	In other words, we allow the tree to fully develop and later remove insignificant branches.	Hier erstellen wir zunächst den vollständigen Baum und entfernen später unbedeutende Äste.	
2326 
681c8149-8153-43a3-b28d-bfc172feadc4	Starting at the leave nodes and moving toward the root of the tree, the branches are pruned according to the lowest level of influence on the prediction error [1}Error(T){2] of tree [3}T{2]. This is done until the desired stop criterion is fulfilled, e.g., a defined maximum tree depth or a minimum number of observations per leaf node.	Das Verfahren sieht vor, dass wir – beginnend bei den Blattknoten und dann in Richtung der Wurzel des Baumes fortschreitend – jeweils die Zweige mit dem geringsten Einfluss auf den Vorhersagefehler [1}Error(T){2] des Baumes [3}T{2] abschneiden. Dies geschieht so lange, bis das gewünschte Stopp- bzw. Abbruchkriterium erfüllt und z. B. eine bestimmte maximale Baumtiefe oder eine festgelegte Mindestanzahl von Beobachtungen pro Blattknoten erreicht ist.	
2327 
1c02f268-a351-426b-917a-5d3b674219d1	The branching to be pruned in each pruning step, i.e., the pruning candidate [1}[2}C{3]{4] of tree [5}[6}T{3]{4], is thus determined as follows:	Dementsprechend wird die beim jeweils nächsten Pruningschritt zu beschneidende Verzweigung, d. h. der Pruningkandidat [1}[2}C{3]{4] des Baumes [5}[6}T{3]{4] auf der Grundlage der folgenden Formel bestimmt:	
2328 
e94c5195-ff95-4287-ba5f-0a0e22cee47e	C	C	
2329 
706f5a68-f76f-418f-85fd-90a7ea3d38a2	(	(	
2330 
b17639af-d9b1-4c80-b800-34def9236bcd	T	T	
2331 
0390ef1c-fab2-49fc-a487-c59e74bb26a1	)	)	
2332 
c5d6dc32-7e78-4001-8ebe-5140f63072f4	=	=	
2333 
d6976aae-2f57-4f52-8c5a-8ab4ecf4adec	E	E	
2334 
96786117-9ada-4c85-8708-1e731f6863d9	r	r	
2335 
62056884-6e3b-4f53-992a-c6cc3d22d47e	r	r	
2336 
900a6fea-ca44-4114-bbe3-162356b7dabc	o	o	
2337 
e654df93-33f7-43e3-a8b4-6c91b4f3b37a	r	r	
2338 
43906026-f899-4a0f-bf68-ced64e1e4aec	(	(	
2339 
790d670f-049d-4d4c-be32-ec11b5e091a9	T	T	
2340 
ad55e4c4-0f30-4c1a-ac2b-f5b78f288658	)	)	
2341 
4709398e-11e9-4046-97aa-9d6f0f4d865c	+	+	
2342 
e6d68ebb-d56e-441a-8a5c-5bd38eb4c70e	λ	λ	
2343 
dde7e2af-2e43-446a-96d4-77379d970c75	L	L	
2344 
b435e690-a459-46ee-b4cc-d79160b4f9ac	(	(	
2345 
3d33b918-ab75-4fac-a9f1-a6d61de56349	T	T	
2346 
dca53cb0-6bb4-49c8-b03a-f92c93998f4a	)	)	
2347 
f2bf5e11-1a4d-4c1e-859e-7d8283b9b5a7	The equation operates with a pre-specified cost complexity parameter [1}λ {2]that penalizes the number of terminal nodes [3}L{2] of tree [5}T{2]. Smaller values for the cost complexity parameter [7}λ{2] tend to produce larger trees; larger values for [9}λ{2] result in smaller trees.	Diese Gleichung enthält einen vorab festgelegten Komplexitätsparameter [1}λ {2], der die Kosten für die Anzahl der Endknoten [3}L{2] des Baumes [5}T{2] festlegt und somit ein ungebremstes Wachstum bestraft. Daher führen kleinere Werte für [7}λ{2] zu tendenziell größeren Bäumen, während größere Werte für [9}λ{2] kleinere Bäume ergeben.	
2348 
cceeac43-3a24-4ecc-a095-868805aab586	We normally evaluate several models across a spectrum of [1}λ{2] and use cross-validation to identify the optimal value.	In der Regel erstellen wir verschiedene Modelle für ein ausgedehntes Spektrum von [1}λ{2]-Werten und wählen dann den optimalen Parameter durch Kreuzvalidierung.	
2349 
d47d3c83-f11e-4299-b071-e93c7f2c4754	By doing this, we arrive at the optimal subtree that is most suitable for generalizing new, unseen data (Boehmke & Greenwell, 2019).	Auf diese Weise erhalten wir den optimalen Teilbaum, der sich am besten für die Generalisierung neuer, dem Modell bisher unbekannter Daten eignet (Boehmke & Greenwell, 2019).	
2350 
4f385820-5652-4169-a8dd-07ec386ec649	Ensemble Methods	Ensemblemethoden	
2351 
f98c5c87-43a1-45c6-aa53-f050763c6f5f	In practice, both decision trees and regression trees are rather commonplace.	In der Praxis werden Entscheidungsbäume und Regressionsbäume recht häufig eingesetzt –	
2352 
8d87bf1b-d974-4cc9-9715-f8200bb082a5	Nevertheless, they are not often used individually.	allerdings zumeist nicht einzeln.	
2353 
9e760bba-5be9-4940-a10d-6dc5cc92e739	Rather, it is more common for several trees (here, regarded as being weaker estimators) to be bundled together to form one strong estimator.	Stattdessen ist es üblich, mehrere Bäume (die hier als schwache Schätzer betrachtet werden) zu einem starken Schätzer zusammenzufassen.	
2354 
441a3065-905b-4020-83b7-d24271fc433b	This is where ensemble methods play a decisive role.	Dabei spielen Ensemblemethoden	
2355 
88b020dd-1751-4250-a9e2-7f4480e7ace1	Ensemble methods can be divided into two categories: bagging algorithms and boosting algorithms.	wie Bagging und Boosting eine entscheidende Rolle.	
2356 
90da8e53-d796-4003-b12e-e358aea5c03c	With bagging, the individual decision trees are independently trained in parallel.	Beim Bagging werden die einzelnen Entscheidungsbäume unabhängig voneinander und parallel trainiert.	
2357 
e4d6d1bd-e971-4c84-8211-240c6542335b	With boosting, the decision trees are trained sequentially, and one tree takes the errors of the previously constructed tree into consideration.	Beim Boosting erfolgt das Training der Entscheidungsbäume sequenziell bzw. nacheinander, wobei ein Baum die Fehler des zuvor erstellten Baums berücksichtigt.	
2358 
e434d8fb-fcdd-44b5-91ad-c6cf028bcd5e	Without a doubt, the most well-known representatives of bagging and boosting are random forest and gradient boosting, respectively.	Bei den bekanntesten Varianten der beiden Verfahren handelt es sich zweifelsohne um (die Bagging-Methode) Random Forest sowie den Gradient-Boosting-Algorithmus.	
2359 
1ce296b4-951c-4122-b8d2-583d10fd7732	The following figure shows the two types of ensemble methods and how they generally work.	Die nachstehende Abbildung illustriert den Unterschied zwischen Bagging- und Boosting-Ensemblemethoden im Hinblick auf ihre jeweiligen Funktionsprinzipien.	
2360 
49237e15-9dc5-4f1d-8f4b-f23bc3075542	Bagging and Boosting	Bagging und Boosting	
2361 
aad4b2b6-0fae-41b9-a6e4-a5e4e39bba9c	Hofer (2021).	Hofer (2021).	
2362 
eadd1207-6fdf-4404-9b56-164b50267419	[1]	[1]	
2363 
856bcbc6-cc6e-4cda-afd3-cbce53225374	Self-Check Questions	Fragen zur Selbstkontrolle	
2364 
7ae0bc97-ea30-4d62-a303-c4d476cde156	Please select the correct statement(s).	Bitte markieren Sie die korrekte(n) Aussage(n) mit einem Haken.	
2365 
eef50945-3296-4d40-929c-96905b469c19	Tree-based models can only be used for classification tasks.	Baumbasierte Modelle können nur für Klassifizierungsaufgaben verwendet werden.	
2366 
4f4c1e97-4eeb-43e5-b184-3c53081e033c	Tree-based models can only be used for regression tasks.	Baumbasierte Modelle können nur für Regressionsaufgaben verwendet werden.	
2367 
54abc72f-a601-4c82-8767-b916235e3e2a	Tree-based models can be used for classification and regression tasks.	Baumbasierte Modelle können für Klassifizierungs- und Regressionsaufgaben verwendet werden.	
2368 
ae499e9f-1f49-4111-9b17-dc4239988c31	Random Forest	Random Forest	
2369 
fdbb24e1-172b-4c4f-adfd-9732e721a4f3	Random Forest	Random Forest	
2370 
c8043163-e806-47d3-8222-dca55abd6563	As a representative ensemble method, the random forest (RF) is a high performing algorithm that bundles single decision trees into one strong estimator through bagging.	Random Forest (RF) ist ein hochleistungsfähiger Algorithmus, der einzelne Entscheidungsbäume durch Bagging zu einem starken Schätzer bündelt.	
2371 
ce92ef03-20d8-48ac-a460-c9ec995cfd4b	The final prediction of a RF is then determined by aggregating the predictions of the individual decision trees, for example, by combining them via a majority vote.	Die endgültige Vorhersage eines solchen Zufallswaldes wird dann durch Aggregation der Vorhersagen der einzelnen Entscheidungsbäume ermittelt, beispielsweise per Mehrheitsvotum,	
2372 
735f19ab-361c-402a-9fb1-7c5babd14335	This is shown in the figure below.	wie in der folgenden Abbildung illustriert.	
2373 
23affab6-592f-48ac-afec-09ec5fef3b84	Random Forest	Random Forest	
2374 
f0d00fae-1274-419d-aa96-6b6a10ad5988	Hofer (2021).	Hofer (2021).	
2375 
042617b8-ef88-40e4-bffc-94845408d6d4	[1]	[1]	
2376 
81c98952-6025-44ae-9e79-3b456462ae93	The individual decision trees are constructed independently of each other with the introduction of a random component.	Die hierfür erforderlichen Entscheidungsbäume werden unabhängig voneinander erstellt,	
2377 
d437b742-b5b2-460f-bd39-e244f67a5b82	This is done by building the trees on	auf der Grundlage von	
2378 
81e25b4e-914c-46b2-99bb-2b59628a4c4d	bootstrap	Bootstrap	
2379 
0607bfe4-ecd3-419c-a428-facf647734ef	Bootstrapping	Bootstrapping	
2380 
810079cd-88fc-4dde-8bd7-8a2059071a12	This procedure resamples a dataset to create many simulated samples of the same size by drawing randomly with laying back.	Bei diesem Verfahren werden aus einem Datensatz durch wiederholtes Ziehen mit Zurücklegen viele unabhängige Stichproben erzeugt.	
2381 
f40565c8-7504-49ec-97b7-ea839a18f90c	copies of the training data.	-Stichproben der Trainingsdaten.	
2382 
ce664146-df8e-43dd-b660-7420b8471997	Boehmke and Greenwell (2019) outline the steps of the random forest algorithm and the steps necessary to build each of the decision trees.	In der gerafften Darstellung von Boehmke und Greenwell (2019) beginnt der Random-Forest-Algorithmus mit den Schritten, die zur Erstellung der einzelnen Entscheidungsbäume erforderlich sind.	
2383 
5f5fdae1-9d62-4fee-b43d-a240d6d843ee	First, select the number of trees to construct (hyperparameter “[1}n_trees{2]”).	Demnach ist zunächst die Anzahl der zu konstruierenden Bäume (d. h. der Hyperparameter "[1}n_trees{2]") festzulegen,	
2384 
7b8be7df-e0ac-4b43-b206-aa0145713df2	For all number of trees, complete the following set of actions:	bevor für alle erstellten Bäume die folgenden Schritte durchgeführt werden:	
2385 
31cbfac6-dff1-49cd-b665-c7fa89180c9a	Generate a bootstrap sample of the original data.	Ziehung einer Bootstrap-Stichprobe aus den Originaldaten	
2386 
8941ab93-dccd-4789-a1c9-dbaa2d009d1b	Grow a regression/classification tree based on the bootstrapped data.	Erstellung eines Regressions-/Klassifikationsbaums auf Basis der Bootstrap-Daten	
2387 
6a745e97-4424-4087-b4a7-a1178e3e4b83	For each node/split, perform the following set of actions:	Wiederholung der folgenden Schritte für jeden Knoten des Baums:	
2388 
10342c36-4388-45e0-96e6-dc9be7541275	Select a number “[1}m_try{2]” of features at random from all [3}p{2] features.	Zufallsauswahl von "[1}m_try{2]" Merkmalen aus der Gesamtheit der Merkmale [3}p{2]	
2389 
1ad594ba-c78f-448e-b031-9043867e527c	﻿Pick the best feature/split-point among the “[1}m_try{2]” tested features.	Auswahl desjenigen Merkmals unter den getesteten "[1}m_try{2]" Merkmalen, das sich am besten als nächster Splitpunkt eignet	
2390 
226aaae8-4b35-4e4e-9f3c-47bf17336cbb	﻿Split the node into two child nodes.	Aufteilung der Objekte im Knoten auf zwei Kindknoten	
2391 
de7bbcc7-218e-433e-88de-f4d1c130c817	Use common tree model stop criteria to determine when a tree is completed and unpruned.	Anwendung gängiger Stoppkriterien, um zu bestimmen, wann ein Baum abgeschlossen ist und nicht weiter beschnitten wird	
2392 
1d905820-0106-42bd-a8e0-93868cd74a72	﻿Output the ensemble of trees.	Ausgabe des Zufallswalds (d. h. des Ensembles der Bäume)	
2393 
404eb436-b9cb-4cf3-802b-1fab48184f5c	﻿Let each of the trees make a prediction.	Erstellung einer Vorhersage mit jedem einzelnen Baum	
2394 
e519ab43-c4fe-4355-84f6-89c8151a74a8	﻿Use the individual predictions in a voting process in which the final prediction is determined.	Ermittlung der endgültigen Vorhersage durch Aggregation der Einzelvorhersagen per Mehrheitsvotum	
2395 
4281fa20-92a3-4d99-a1ac-8487b3d25d58	Application	Implementierung in Python	
2396 
59db29ca-1528-4163-bc7c-da0311066f7e	To illustrate how the random forest algorithm can be used as a classifier, we will use the scikit-learn library and our previous walking example.	Um zu veranschaulichen, wie der Random-Forest-Algorithmus als Klassifikator eingesetzt werden kann, verwenden wir hier die scikit-learn-Bibliothek und greifen erneut auf das zuvor diskutierte Beispiel mit den Spaziergängen zurück.	
2397 
74ea20f7-7768-4f5c-953b-48b6c0f7e878	Let us assume that we have a dataset containing information concerning whether the walker has taken their walk ([1}Label=1{2]) or not ([3}Label=0{2]) for the 52 Sundays in one year.	Als Grundlage dient uns dabei ein Datensatz, aus dem sich für jeden der 52 Sonntage eines Jahres ersehen lässt, ob unsere Zielperson einen Spaziergang gemacht hat ([1}Label=1{2]) oder nicht ([3}Label=0{2]).	
2398 
75b910e6-5df5-428f-8d9b-475f1b1be85d	First, we import the required packages, load the dataset, and output the first five lines.	Zur Erstellung entsprechender Vorhersagen importieren wir zunächst die erforderlichen Pakete, laden den Datensatz und geben dessen erste fünf Zeilen aus.	
2399 
0ee47d03-d520-4c68-a59f-ed5d5e0675f5	Then, we can look at the information provided in the dataset.	So können wir einen ersten Blick auf die in unserem Datensatz enthaltenen Informationen werfen.	
2400 
960aee51-35a8-4a0d-ad2c-54bea91187fc	Code	Code	
2401 
ca22a373-8ee4-4bda-821e-ff1914ac55fa	# Load packages[1]import pandas as pd[1]from sklearn.model_selection import train_test_split[1]from sklearn.ensemble import RandomForestClassifier[1]from sklearn.metrics import confusion_matrix[1]from sklearn.metrics import accuracy_score[1]  [1]# Load dataset and print 1st five rows[1]dataset = pd.read_csv('takingawalk_dataset.csv', sep=';')[1]print(dataset.head())[1]  [1] Week Outlook Humidity Wind Label[1]    1  Rainy    High Yes     0[1]    2  Sunny  Normal  No     1[1]    3  Sunny  Normal Yes     1[1]    4  Sunny    High Yes     0[1]    5  Rainy  Normal Yes     0	# Load packages[1]import pandas as pd[1]from sklearn.model_selection import train_test_split[1]from sklearn.ensemble import RandomForestClassifier[1]from sklearn.metrics import confusion_matrix[1]from sklearn.metrics import accuracy_score[1]  [1]# Load dataset and print 1st five rows[1]dataset = pd.read_csv('takingawalk_dataset.csv', sep=';')[1]print(dataset.head())[1]  [1] Week Outlook Humidity Wind Label[1]    1  Rainy    High Yes     0[1]    2  Sunny  Normal  No     1[1]    3  Sunny  Normal Yes     1[1]    4  Sunny    High Yes     0[1]    5  Rainy  Normal Yes     0	
2402 
e3a09788-e80f-42e7-a4e7-e3327ce0a740	Next, we separate the features and labels from each other.	Als Nächstes trennen wir die Merkmale von den Labels	
2403 
ab6f9766-db78-48a3-9815-20314208db7a	We also remove the “[1}Week{2]” feature, as it contains 52 unique values that do not add any information to the classifier.	und entfernen außerdem das Merkmal "[1}Week{2]", dessen 52 unterschiedliche Ausprägungen dem Klassifikator keine Informationen hinzufügen.	
2404 
bc63cdd2-4d89-42a2-940e-2d8b85cfb2ed	We have learned that tree-building algorithms do not need one-hot encoding—that being said, it could be useful.	Des Weiteren berücksichtigen wir hier die Tatsache, dass Algorithmen zur Baumerstellung in manchen Fällen von der One-Hot-Codierung der Eingabedaten profitieren.	
2405 
5fec02f9-31be-45d5-b97a-8067404a644d	We encode the features and output the list of features.	Daher codieren wir die Merkmale entsprechend und geben sie anschließend als Liste aus.	
2406 
13e63fd4-2f97-4fdd-add7-e78609f34202	Code	Code	
2407 
3958bd31-a3b5-403d-9a5c-591bb262129d	X = dataset.drop(columns=\['Label', 'Week'])[1]y = dataset\['Label'][1]X = pd.get_dummies(X)[1]print(X.columns)[1]  [1]Index(\['Outlook_Rainy', 'Outlook_Sunny', 'Humidity_High',      [1]      'Humidity_Normal', 'Wind_No', 'Wind_Yes'],     [1]      dtype='object')	X = dataset.drop(columns=\['Label', 'Week'])[1]y = dataset\['Label'][1]X = pd.get_dummies(X)[1]print(X.columns)[1]  [1]Index(\['Outlook_Rainy', 'Outlook_Sunny', 'Humidity_High',      [1]      'Humidity_Normal', 'Wind_No', 'Wind_Yes'],     [1]      dtype='object')	
2408 
dc6c3e98-6a89-4e78-80ef-ab5cbcae8fec	We divide the dataset into the training set and the testing set, using 30 percent of the data to test the model after training.	Danach teilen wir die importierten Daten so in einen Trainings- und einen Testdatensatz auf, dass der Letztere 30 % des gesamten Datenbestands umfasst.	
2409 
7d4d354e-aef1-4ed9-b898-d3b5bfe99270	Furthermore, we set the parameter [1}shuffle=True{2].	Außerdem setzen wir den Parameter [1}shuffle=True{2].	
2410 
3ebc600c-4efc-474a-bfa6-0e6ad4087f96	By doing this, we want to make sure that we are not pulling our training and testing dataset from just one season of the year.	Auf diese Weise wollen wir sicherstellen, dass wir in unseren Trainingsdatensatz und den Testdatensatz jeweils nicht nur Datenpunkte aus einer Jahreszeit aufnehmen.	
2411 
7917f9ee-04de-4d1b-aa66-85459e05465f	Rather, the two partitions are drawn from observations across the entire year.	Vielmehr werden die beiden Partitionen aus Beobachtungen über das gesamte Jahr hinweg gezogen.	
2412 
9ee5b1c5-a939-480e-84d1-4cfb995cda5a	Code	Code	
2413 
ac1687e3-e69d-4997-bf0c-de4cab3d54a2	X_train, X_test, y_train, y_test = train_test_split(X, y,[1]test_size=0.3, shuffle=True, random_state=42)	X_train, X_test, y_train, y_test = train_test_split(X, y,[1]test_size=0.3, shuffle=True, random_state=42)	
2414 
4e23cda8-f40d-44bb-93a3-f555a9629238	﻿Next, we initialize and train a random forest classifier.	Im folgenden Schritt initialisieren und trainieren wir einen Random-Forest-Klassifikator.	
2415 
e98639bb-7380-43ae-b0f7-d870f79613ed	The random forest will consist of 100 decision trees, each limited to a maximum depth of three levels.	Der betreffende Zufallswald besteht aus 100 Entscheidungsbäumen, die jeweils auf eine maximale Tiefe von drei Ebenen begrenzt sind.	
2416 
cbe090f8-852e-4d71-b9a6-aa4c2c787fab	With the help of the trained classifier, we can generate predictions on the test set and output the confusion matrix for further evaluation.	Sodann können wir mithilfe des trainierten Klassifikators sowohl Vorhersagen für den Testdatensatz als auch die für die Beurteilung seiner Vorhersageleistung erforderliche Wahrheitsmatrix erstellen.	
2417 
23bb52c8-0431-4458-b3a2-0ec4611dcc14	Code	Code	
2418 
3d808022-93c2-4657-bf7e-2480a44a3885	clf = RandomForestClassifier(n_estimators=100, max_depth=3, random_state=42)[1]clf.fit(X_train, y_train)[1]y_pred = clf.predict(X_test)[1]print('Confusion Matrix:')[1]print(confusion_matrix(y_test, y_pred))[1]  [1]Confusion Matrix:[1]	clf = RandomForestClassifier(n_estimators=100, max_depth=3, random_state=42)[1]clf.fit(X_train, y_train)[1]y_pred = clf.predict(X_test)[1]print('Confusion Matrix:')[1]print(confusion_matrix(y_test, y_pred))[1]  [1]Confusion Matrix:[1]	
2419 
a170e93b-778b-412a-a8aa-9a6d4c9162a3	\[\[10 1][1] \[0 5]]	\[\[10 1][1] \[0 5]]	
2420 
bf98423e-95a8-4e72-98e0-b4927bf3ac62	﻿The confusion matrix shows that our classifier performs very well, correctly outputting only one false negative.	Aus dieser Wahrheitsmatrix geht hervor, dass unser Klassifikator eine sehr gute Vorhersageleistung bietet und nur ein falsch-negatives Ergebnis ausgibt.	
2421 
ebcb995f-5d20-4e1c-9228-2b861ceecb5e	Additionally, we can print the accuracy of our model.	Um dies zu untermauern, können wir außerdem die Korrektklassifizierungsrate unseres Modells ermitteln.	
2422 
375e694e-2389-441f-acbb-344df940a8f4	Code	Code	
2423 
2a7e3054-adea-4699-aa51-b13ac913d365	accuracy_score(y_test, y_pred)	accuracy_score(y_test, y_pred)	
2424 
7596d739-4b9d-4008-aba1-7592f7ac7b18	The [1}feature_importances_{2] method, a practical feature of scikit-learn’s random forest implementation, shows how important each feature is for achieving the prediction quality.	Abschließend ermitteln wir mithilfe der scikit-learn-Methode [1}feature_importances_{2] den Beitrag der einzelnen Merkmale zur Qualität der Vorhersagen unserer Random-Forest-Implementierung.	
2425 
d5f434cd-fd59-45c0-b31d-219cc8aab91e	This allows for the output of a feature ranking contingent on the measured feature importance.	Das auf diese Weise erstellte Ranking der gemessenen "feature scores" zeigt,	
2426 
3698e575-b1fe-4847-aa02-80fdf527f1ef	The output shown below shows that for the random forest classifier, the two features [1}Humidity_Normal{2] and [3}Outlook_Sunny{2] are the most important indicators of whether the walker will, in fact, go on a walk.	dass im Fall unseres Random-Forest-Klassifikators die beiden Merkmale [1}Humidity_Normal{2] (normale Luftfeuchtigkeit) und [3}Outlook_Sunny{2] (sonniges Wetter) die wichtigsten Indikatoren dafür sind, ob der Spaziergänger tatsächlich spazieren gehen wird.	
2427 
95db66c5-ae1d-4d18-a58c-b507805db6d7	Code	Code	
2428 
bdf9d1cf-197b-453f-932d-c7ef823f28bc	feature_scores = pd.Series(clf.feature_importances_, index=X_train.columns).sort_values(ascending=False)[1]print('Feature Scores:')[1]print(feature_scores)[1]  [1]Feature Scores:[1]	feature_scores = pd.Series(clf.feature_importances_, index=X_train.columns).sort_values(ascending=False)[1]print('Feature Scores:')[1]print(feature_scores)[1]  [1]Feature Scores:[1]	
2429 
40f578d1-1c31-49dd-a49e-741c296f51a7	Humidity_Normal   0.193512[1]Outlook_Sunny     0.192283[1]Humidity_High     0.168927[1]Wind_No           0.151238[1]Outlook_Rainy     0.147944[1]Wind_Yes          0.146097	Humidity_Normal   0.193512[1]Outlook_Sunny     0.192283[1]Humidity_High     0.168927[1]Wind_No           0.151238[1]Outlook_Rainy     0.147944[1]Wind_Yes          0.146097	
2430 
7cc470ac-ee7c-4268-87c7-78c8c5c3b80a	Self-Check Questions	Fragen zur Selbstkontrolle	
2431 
d4605663-d685-4e65-819e-fac1cfaa8b5a	Please complete the following sentence.	Bitte vervollständigen Sie den folgenden Satz:	
2432 
41cea4a5-7d06-4dff-bd28-924a9435bdd7	The number of trees is a	Die Anzahl der Bäume ist ein	
2433 
e15f275d-4f2b-42db-bbdd-bf6fe0484eaa	of the random forest.	des Random-Forest-Verfahrens.	
2434 
f5e6a010-569a-4d68-bcd5-26a409d0dc5c	hyperparameter	Hyperparameter	
2435 
96a18d58-e8fd-470f-81c8-0c8aa2c9dadc	Gradient Boosting	Gradient Boosting	
2436 
e6adcc5a-9a5f-4f98-87af-ef668be72903	Gradient Boosting	Gradient Boosting	
2437 
1f62eaaa-b30b-4a95-a3a4-d07f0b54c43e	Similar to random forest, gradient boosting uses a large number of individual weak estimators (usually decision trees) that are combined into one strong estimator.	Gradient Boosting ähnelt dem Random-Forest-Verfahren insofern, als hier wie dort eine große Anzahl von schwachen Schätzern (in der Regel Entscheidungsbäume) zu einem starken Schätzer kombiniert wird.	
2438 
367048c8-590e-480a-b6e8-c29ad0070d08	In gradient boosting, however, the individual estimators are not trained in parallel and independently of each other.	Allerdings erfolgt das Training der einzelnen Schätzer bei der Gradient-Boosting-Methode nicht parallel und unabhängig voneinander,	
2439 
656a1650-bbf8-4f8a-b2e8-c89a2f101016	Rather, they are trained sequentially, and one estimator helps optimize the next.	sondern sequenziell bzw. nacheinander, wobei jeder Schätzer hilft, den jeweils nächsten zu optimieren.	
2440 
921e06c0-7ba4-4c72-8a28-9635478fb21c	By doing so, the misclassified samples in one iteration are exaggerated in the following iteration, thereby placing emphasis on the need to classify these samples correctly in the next decision tree to be trained.	Das bedeutet konkret, dass die bei einem Iterationsschritt falsch klassifizierten Stichproben in der folgenden Iteration überbewertet werden, was die Notwendigkeit ihrer korrekten Klassifizierung durch den nachfolgenden Entscheidungsbaum betont.	
2441 
eb103367-16a5-45a6-8f2e-9c6403989958	Little by little, the number of misclassifications decreases.	Auf diese Weise nimmt die Zahl der falsch klassifizierten Beobachtungen nach und nach ab.	
2442 
14001617-1938-4700-972f-32e9dca50f4c	According to Brownlee (2016), gradient boosting essentially consists of three elements:	Nach Brownlee (2016) umfasst diese Methode drei wesentliche Komponenten:	
2443 
9cfca630-0ecf-4835-8787-e2e74a1c04af	A loss function we want to optimize	Eine Verlustfunktion, die optimiert werden soll	
2444 
e0f09de3-71b7-407e-96c9-9c2509b2acfe	A set of weak learners generating predictions	Ein Set von schwachen Lernmodellen, die Vorhersagen erstellen	
2445 
ec9fd3e9-3e17-4453-884b-9ed1d5247e1e	An additive model for combining the predictions of the weak learners into one strong predictor (thereby minimizing the loss function)	Ein additives Modell zur Kombination der Vorhersagen der schwachen Schätzer zu einem starken Prädiktor (sodass die Verlustfunktion minimiert wird)	
2446 
3165d59a-2efd-4643-be27-7c97f9c341d8	﻿In the figure below, we see exactly the way the gradient boosting algorithm works and how these elements interact.	In der nachstehenden Abbildung wird die Funktionsweise des Gradient-Boosting-Algorithmus und das Zusammenspiel seiner Komponenten illustriert.	
2447 
eb4d275d-ebb2-4979-9d3c-3b4832741e95	Gradient Boosting	Gradient Boosting	
2448 
89b1dc74-d204-48d6-a7ee-7b4296fa91f9	Hofer (2021).	Hofer (2021).	
2449 
827e8785-f086-4f26-9b5d-924b48b390b4	[1]	[1]	
2450 
0553c680-e6c8-40af-aaba-6076004c4a25	﻿Boehmke and Greenwell (2019) formulate the steps of the gradient boosting algorithm as follows:	Dabei lauten die Schritte des Gradient-Boosting-Algorithmus in der Darstellung von Boehmke und Greenwell (2019) wie folgt:	
2451 
b00e9d20-ae49-4b9b-b809-99a92db4727b	Select the number of trees to construct (hyperparameter “[1}n_trees{2]”).	Festlegung der Anzahl der zu erstellenden Bäume (Hyperparameter "[1}n_trees{2]")	
2452 
7de3849e-dc78-405b-a40b-42d9d6a813d8	Fit the first weak estimator to the given training data [1}X{2] and generate predictions [3}ŷ{2], i.e., [5}F[6}1{7](x)=ŷ{2]	Anpassung des ersten schwachen Schätzers an die gegebenen Trainingsdaten [1}X{2] und Einsatz desselben zur Erstellung von Vorhersagen [3}ŷ{2], d. h. [5}F[6}1{7](x)=ŷ{2]	
2453 
8d0fe9f9-c357-4fcc-a005-1db86c06d57e	Fit the next weak estimator to the residuals of the previous one, i.e, [1}h[2}1{3](x)=y-F[4}1{3](x){6]	Anpassung des nächsten schwachen Schätzers an die Residuen des vorherigen Schätzers, d. h. [1}h[2}1{3](x)=y-F[4}1{3](x){6]	
2454 
0971d07e-4c5d-4d1f-9e46-e493c1e3e5cd	Add this weak estimator to the model, i.e., [1}F[2}2{3](x)=F[4}1{3](x)+h[6}1{3](x){8]	Hinzufügung des betreffenden schwachen Schätzer zum Modell, d. h. [1}F[2}2{3](x)=F[4}1{3](x)+h[6}1{3](x){8]	
2455 
228772ed-f3de-467e-80ba-bb1cd65c6c5f	Fit the next weak estimator to the residuals of [1}F[2}2{3]: h[4}2{3](x)=y-F[6}2{3](x){8]	Anpassung des nächsten schwachen Schätzers an die Residuen von [1}F[2}2{3]: h[4}2{3](x)=y-F[6}2{3](x){8]	
2456 
ca4df77a-b6e4-4c83-b221-d275f2d38ef0	Add this weak estimator to the model, i.e., [1}F[2}3{3](x)=F[4}2{3](x)+h[6}1{3](x){8]	Hinzufügung des betreffenden schwachen Schätzer zum Modell, d. h. [1}F[2}3{3](x)=F[4}2{3](x)+h[6}1{3](x){8]	
2457 
5dc9570a-47a9-4b7a-94b2-43adb6d987a7	Continue this process until the number of prospective trees has been reached.	Fortsetzung des Prozesses, bis die gewünschte Anzahl von Bäumen erreicht ist	
2458 
1a33495a-a2ba-4e76-95db-81c48040bd6d	The resulting strong estimator can be mathematically expressed as the additive combination of the single [1}i{2] weak estimators of number [3}n{2]:	Der daraus resultierende starke Schätzer kann mathematisch als additive Kombination der einzelnen schwachen Schätzer [1}i{2] ausgedrückt werden und umfasst somit [3}n{2] Summanden:	
2459 
81e90870-9bc1-4f66-933c-6e723c4f847a	f	f	
2460 
a3fcfa7b-554c-418e-bffa-455cfe2a8a9f	(	(	
2461 
80f9aba6-b1e6-4a0f-845c-9024e8f1d6e7	x	x	
2462 
e864f809-a61e-4416-a528-e7de8c8b5655	)	)	
2463 
d4a79932-30de-4ceb-9ba4-77d36d665333	=	=	
2464 
e20066f9-6c2d-4215-b008-ffb994ef73ba	∑	∑	
2465 
23aec969-05cc-400a-a749-9fb670db9a14	i	i	
2466 
2ee53348-551e-46ff-aac6-db22e046a610	=	=	
2467 
bf54f8bf-7656-43dc-b49f-1dd4d6bb3387	1	1	
2468 
2ee2bdab-b129-4cbb-b1e7-c90aa22ff103	n	n	
2469 
8458185a-0d54-4b53-9b69-26663a04de15	f	f	
2470 
bc23f6fd-3694-4a80-b792-c707da8f453b	i	i	
2471 
918915fe-cee2-4320-8550-5c78ff8a5583	(	(	
2472 
45efec2c-1c31-4eca-9e54-8f61fc9b2b25	x	x	
2473 
7c477991-e2ed-4c67-b93f-d0abd4a905ce	)	)	
2474 
459e27d5-897b-438d-a81b-60a3e3f744b0	﻿Gradient boosting is considered a gradient descent algorithm, which is a very general optimization algorithm able to find the optimal solutions to a broad variety of problems.	Generell gilt das Gradient-Boosting-Verfahren als Gradientenabstiegsalgorithmus und zählt somit zu den allgemeinen Optimierungsalgorithmen, die optimale Lösungen für eine Vielzahl von Problemen liefern.	
2475 
5178e256-b011-49db-8b96-3333e321b634	The general idea behind gradient descent is to iteratively change parameters in order to minimize a loss function.	Ziel des Gradientenabstiegs ist die Minimierung einer Verlustfunktion durch die iterative Änderung der Modellparameter.	
2476 
b037f6ae-422a-4c35-928b-1316181d7fef	To that effect, gradient boosting is very flexible regarding the loss function used (Boehmke & Greenwell, 2019).	Dabei zeichnet sich Gradient Boosting durch eine enorme Flexibilität hinsichtlich der verwendeten Verlustfunktion aus (Boehmke & Greenwell, 2019).	
2477 
a059d2fa-d081-41f8-8fb3-b06b85f11efa	Application	Implementierung in Python	
2478 
f4899765-d86c-4c3d-bdf6-e6ea20b142a7	We can use a gradient boosting classifier from the scikit-learn library almost exactly in the way as we would use a random forest classifier.	Die Erstellung eines Gradient-Boosting-Klassifikators mithilfe der scikit-learn-Bibliothek gleicht der Implementierung eines Random-Forest-Klassifikators in weiten Teilen	
2479 
d173b22d-3d5c-48af-9646-1f9cc5a94a6f	In fact, there is only one notable code change from the random forest example.	und weicht von dieser nur im Hinblick	
2480 
945b8cbd-26ab-4871-bcb3-febe3d20a3b9	Specifically, the import and initialization commands of the model are altered, and we write these as follows:	auf die Import- und Initialisierungsbefehle ab. Die entsprechenden Codezeilen lauten dann wie folgt:	
2481 
e45869fc-d333-45ee-8533-664128bf9f4c	Code	Code	
2482 
db78a36a-0692-4d2a-a027-6ccb5040fb77	from sklearn.ensemble import GradientBoostingClassifier[1]clf = GradientBoostingClassifier(n_estimators=100,[1]max_depth=3, random_state=42	from sklearn.ensemble import GradientBoostingClassifier[1]clf = GradientBoostingClassifier(n_estimators=100,[1]max_depth=3, random_state=42	
2483 
73aff89a-d478-41de-b299-1836a8c8a6b7	﻿We evaluate the resulting prediction performance using the confusion matrix.	Auch hier nutzen wir wieder eine Wahrheitsmatrix als Bewertungsgrundlage für die Vorhersageleistung des Modells.	
2484 
70be914b-79e3-4650-984a-eb59a748a0d7	Code	Code	
2485 
fbb346b9-e591-439f-b49e-0f501d2d8ab0	\[\[10 1][1] \[ 0 5]]	\[\[10 1][1] \[ 0 5]]	
2486 
3aed86ea-fe17-4ee1-b38e-c0ad9f2f2f60	Thus, according to the confusion matrix, the gradient boosting classifier achieves the same performance on the test set as does the random forest classifier.	Diesen Angaben zufolge erreicht der Gradient-Boosting-Klassifikator die gleiche Vorhersageleistung bezüglich der Testdaten wie der Random-Forest-Klassifikator.	
2487 
c5ab574b-64a6-488f-811b-7e1fdd2ff1a9	However, there are some notable differences regarding the model’s feature importance determinations.	Allerdings gibt es zwischen den Modellen einige bemerkenswerte Unterschiede hinsichtlich des Beitrags der einzelnen Merkmale.	
2488 
e01124b1-84da-447b-9c9d-e9714132e5b2	These can be displayed analogously by using the [1}feature_importances_ method{2].	Wenn wir diese mit der Methode [1}feature_importances_{2] ermitteln,	
2489 
107f8301-f82e-496b-ab88-4524a00f154d	For the gradient boosting classifier, the two features[1][2}Outlook_Sunny{3] and [4}Wind_No{3] are by far the most important indicators of whether the walker will, in fact, go on a walk.	stellt sich heraus, dass im Fall des Gradient-Boosting-Klassifikators die beiden Merkmale[1][2}Outlook_Sunny{3] (Sonniges Wetter) und [4}Wind_No{3] (kein Wind) die bei weitem wichtigsten Indikatoren dafür sind, ob unsere Zielperson tatsächlich spazieren gehen wird.	
2490 
d012764d-7bab-4c4c-b5f5-3d77e7daee3e	Code	Code	
2491 
bd819748-9828-4c71-9e3a-9b532797d236	Feature Scores:[1]	Feature Scores:[1]	
2492 
9b6322e9-1ee5-4aa5-bdb2-8a8db66dc989	Outlook_Sunny     0.247713[1]Wind_No           0.237722[1]Wind_Yes          0.144501[1]Humidity_High     0.132627[1]Outlook_Rainy     0.127789[1]Humidity_Normal   0.109648	Outlook_Sunny     0.247713[1]Wind_No           0.237722[1]Wind_Yes          0.144501[1]Humidity_High     0.132627[1]Outlook_Rainy     0.127789[1]Humidity_Normal   0.109648	
2493 
357288f2-c0ae-4491-8830-6941197d9691	Self-Check Questions	Fragen zur Selbstkontrolle	
2494 
18da7010-641d-4254-99c0-c63a247c37d3	Please complete the following sentences.	Bitte vervollständigen Sie den folgenden Satz:	
2495 
05fa9256-9a03-402e-9992-d02eefd34510	In gradient boosting,	Beim Gradient Boosting kombinieren wir mehrere	
2496 
0a1131cd-f199-4280-a2fb-9dc1df22879e	estimators are combined to make one	Schätzer zu einem	
2497 
6e3632f6-679b-42a4-97b3-eef167ebc1eb	estimator.	Schätzer.	
2498 
90e37982-fb9a-4676-9987-db2a2c9dd6ac	In contrast to the random forest, the individual estimators are not built and trained in	Im Gegensatz zum Random-Forest-Verfahren werden die einzelnen Schätzer hier nicht	
2499 
4504d74a-1818-43d2-8cf2-6cc6c39e43a7	.	,	
2500 
8c68f75a-0e4a-4aea-9578-f1ed21b23701	Rather, they are built	sondern	
2501 
81cc8ec9-d412-4abe-86b6-117830d24472	.	trainiert.	
2502 
c74713b0-eb7d-4b3f-ad58-d40688141e56	weak	schwache	
2503 
1ae1827a-1394-4cbb-a94b-db913b34b549	strong	starken	
2504 
ffb03cd7-3764-4659-9964-1acfd093799e	parallel	parallel	
2505 
1f41a3df-68f9-4d49-b44b-6f7fa5fadb26	sequentially	sequenziell	
2506 
09d26729-dd28-404d-a347-14bdd98c3a1d	Summary	Zusammenfassung	
2507 
e772ddfa-9b9b-45f5-9a5a-2c667b458146	Decision tress can be used for both classification and regression.	Baumbasierte Modelle können für Klassifizierungs- und Regressionsaufgaben verwendet werden.	
2508 
edc08bba-76f9-45f4-9c78-643cba13f91c	The core concept behind decision and regression trees is the splitting of a dataset in a step-by-step manner based on descriptive features.	Dabei besteht das Grundprinzip der Erstellung von Entscheidungs- und Regressionsbäumen in der schrittweisen Aufteilung des Datensatzes auf der Grundlage von beschreibenden Merkmalen.	
2509 
cdbab6eb-6c80-4f07-a266-6ab45675a272	Starting from the complete dataset (i.e., the root), the data gradually branch out through the splits (i.e., the nodes) until reaching the last level of the tree (i.e., the leaves).	Der Prozess beginnt mit der Aufsplittung der kompletten Daten (an der sogenannten Wurzel) in zwei oder mehr Teildatensätze (oder Knoten), die sich dann wiederum verzweigen können, bis schließlich die letzte Baumebene (bzw. die Ebene der Blattknoten) erreicht ist.	
2510 
25f9a282-5149-4a43-a95f-baa1045ee725	A prediction about an observation is derived by sorting it along the tree, starting from the root node and ending at one of the leaf nodes.	 Demnach liefern Entscheidungsbäume Vorhersagen über Beobachtungen, indem sie diese vom Wurzelknoten ausgehend entlang ihrer Zweigstruktur sortieren.	
2511 
3f8c197b-8236-4512-b0a1-7e4921fad515	Finally, the prediction is obtained from this leaf node.	Die eigentliche Vorhersage wird dann in einem der Blattknoten bereitgestellt.	
2512 
7bffd719-4cab-43d3-a387-ab6a038a931e	In practice, decision trees and regression trees are not often used individually.	Generell ist in diesem Zusammenhang zu beachten, dass Entscheidungs- und Regressionsbäume in der Praxis meist nicht einzeln verwendet werden.	
2513 
db832e97-ce6e-4cd0-87ab-7a97a5f256b1	It is more common to bundle many decision or regression trees together to form one strong estimator.	Stattdessen ist es üblich, viele Entscheidungs- oder Regressionsbäume zu einem starken Schätzer zusammenzufassen.	
2514 
d15a151e-2596-48e8-91f2-48b4c7c05fd5	This practice reflects the ensemble methods, which are divided into two fundamentally different types: bagging algorithms and boosting algorithms.	Dies ist das Grundprinzip der sogenannten Ensemblemethoden, die in zwei grundlegend verschiedene Typen zerfallen: Bagging-Algorithmen und Boosting-Algorithmen.	
2515 
62268dc4-db90-4253-97d3-6aab95f05ea8	With bagging, the individual decision trees are independently trained in parallel.	Beim Bagging werden die einzelnen Entscheidungsbäume unabhängig voneinander und parallel trainiert.	
2516 
a200d806-112f-4ca5-96f8-be403d137d08	With boosting, the decision trees are trained sequentially, and one tree takes the errors of the previously constructed tree into consideration.	Beim Boosting erfolgt das Training der Entscheidungsbäume sequenziell bzw. nacheinander, wobei ein Baum die Fehler des zuvor erstellten Baums berücksichtigt.	
2517 
da1d5406-9797-412c-9925-8e20cd5cca48	Backmatter	Nachwort	
2518 
2191a515-6f90-4b45-a1c3-15ae3c9a211d	Backmatter	Nachwort	
2519 
701cf285-de4a-4a85-8804-1376efe7571d	List of References	Literaturverzeichnis	
2520 
0fac3d1f-41d8-4e32-8cca-4c31add61364	Bishop, C. M. (2006).	Bishop, C. M. (2006).	
2521 
5a6fbd2f-1c5c-4666-b890-a4c1d1c39422	[1}Pattern recognition and machine learning{2].	[1}Mustererkennung und maschinelles Lernen{2].	
2522 
bda7ecb7-bcf3-4f68-b711-6c5f9349344e	Springer.	Springer.	
2523 
379d0c2b-daa4-4388-a03d-f37279677607	Boehmke, B., & Greenwell, B. (2019).	Boehmke, B., & Greenwell, B. (2019).	
2524 
affe6ccc-f070-4666-bf72-900ee99b68eb	[1}Hands-on machine learning with R{2]. Chapman & Hall.	[1}Hands-on machine learning with R{2]. Chapman & Hall.	
2525 
12a08a78-c9bb-4771-aae8-115c9d41efbc	Breiman, L., Friedman, J., Olshen, R. A., & Stone, J. S. (1984).	Breiman, L., Friedman, J., Olshen, R. A., & Stone, J. S. (1984).	
2526 
30e557ab-1c78-4831-880d-1623ee480bdd	[1}Classification and regression trees{2].	[1}Klassifizierungs- und Regressionsbäume{2].	
2527 
d723bb43-23fa-43b6-a9ef-5f618755dc34	Chapman & Hall. [1}https://doi.org/10.1201/9781315139470{2]	Chapman & Hall. [1}https://doi.org/10.1201/9781315139470{2]	
2528 
d8d122dc-b58f-44ca-a762-543c6a184ed0	Brownlee, J. (2016, September 9).	Brownlee, J. (2016, September 9).	
2529 
49124f2c-987d-43d6-b149-5f9b789d6e42	[1}A gentle introduction to the gradient boosting algorithm for machine learning{2].	[1}Eine sanfte Einführung in den Gradient-Boosting-Algorithmus für maschinelles Lernen{2].	
2530 
5cca2361-7ffa-479d-b02e-fffcc80e55b8	Machine Learning Mastery. [1}https://machinelearningmastery.com/gentle-introduction-gradient-boosting-algorithm-machine-learning/{2]	Machine Learning Mastery. [1}https://machinelearningmastery.com/gentle-introduction-gradient-boosting-algorithm-machine-learning/{2]	
2531 
558fe2bb-eb71-48a3-9bfc-c313fbc0a05e	Funmilola, A., Olusayo, F., & Elizabeth, A. (2015).	Funmilola, A., Olusayo, F., & Elizabeth, A. (2015).	
2532 
f8c33659-5e0d-4c5e-9615-3ec96427ccb6	Classification of abnormalities in brain MRI images using PCA and SVM.	Klassifizierung von Anomalien in MRT-Bildern des Gehirns mit PCA und SVM.	
2533 
bd751be8-301c-46bf-9638-c64992c5b52e	[1}International Journal of Engineering Research and Applications{2],[3} 5{2](7), 56—62.	[1}International Journal of Engineering Research and Applications{2],[3} 5{2](7), 56-62.	
2534 
525d8c6e-0abc-43b6-8b82-8cbdc5d5237c	Géron, A. (2019).	Géron, A. (2019).	
2535 
719bad6b-e14c-42c1-9239-324332de7c68	[1}Hands-on machine learning with scikit-learn, Keras & Tensorflow{2] (2nd ed.).	Hands-on machine learning with Scikit-Learn, Keras and TensorFlow:	
2536 
2c7f6685-0ea3-4871-b0e6-852abf5f201a	OʼReilly.	O’Reilly.	
2537 
78a49173-cf64-412c-b3ec-3db5a29aac9f	Hardin, J. W., & Hilbe, J. M. (2007).	Hardin, J. W., & Hilbe, J. M. (2007).	
2538 
f75c4e7f-f0b3-42f5-8bc9-e435f62dbe0e	[1}Generalized linear models and extensions{2] (2nd ed.)[3}.{2][3} {2]	[1}Verallgemeinerte lineare Modelle und Erweiterungen{2] (2. Aufl.)[3}.{2][3} {2]	
2539 
7d88b0eb-0ae2-4aba-a2c0-00a40d3e95e7	Stata Press.	Stata Press.	
2540 
9253cf57-f7ca-40e9-9e31-c674f5d0fc6e	Hashan, A. M. (2021a).	Hashan, A. M. (2021a).	
2541 
7c75e8e2-414a-4f78-a07e-282137d89376	[1}MRI based brain tumor images, version 1{2] (Normal (1).jpg) \[Photograph]. [3}https://www.kaggle.com/mhantor/mri-based-brain-tumor-images{4]	[1}MRT-basierte Hirntumoraufnahmen, Version 1{2] (Normal (1).jpg) \[Foto]. [3}https://www.kaggle.com/mhantor/mri-based-brain-tumor-images{4]	
2542 
dca48076-0f99-44f5-9fa0-97014d03f745	Hashan, A. M. (2021b).	Hashan, A. M. (2021b).	
2543 
ea59af71-4712-4222-a73a-8e53dbc16f72	[1}MRI based brain tumor images, version 1{2] (Tumor (118).jpg) \[Photograph]. [3}https://www.kaggle.com/mhantor/mri-based-brain-tumor-images{4]	[1}MRT-basierte Bilder von Hirntumoren, Version 1{2] (Tumor (118).jpg) \[Foto]. [3}https://www.kaggle.com/mhantor/mri-based-brain-tumor-images{4]	
2544 
e5845801-b548-485c-9ddb-e6d5b3de07ae	Hingane, M. C., Matkar, S. B., Mane, A. B., & Shirsat, A. M. (2015).	Hingane, M. C., Matkar, S. B., Mane, A. B., & Shirsat, A. M. (2015).	
2545 
d3c74ee3-3ffe-47fa-8252-ca07daea6fb1	Classification of abnormalities in brain MRI images using SVM classifier.	Klassifizierung von Anomalien in MRI-Bildern des Gehirns mithilfe eines SVM-Klassifikators.	
2546 
03d46e56-57d5-4216-837b-91c1ea25b5d2	[1}International Journal of Science Technology & Engineering{2],[3} 1{2](9), 24—28.	[1}International Journal of Science Technology & Engineering{2],[3} 1{2](9), 24-28.	
2547 
c7e8abbd-d988-4194-975c-b53fb3ab61c2	Jensen, K. (2012).	Jensen, K. (2012).	
2548 
979eb21e-68c5-443c-a850-0222a4ea4337	[1}CRISP-DM process diagram{2] (CRISP-DM_process_diagram.png) \[Illustration].	[1}CRISP-DM-Prozessdiagramm{2] (CRISP-DM_process_diagram.png) \[Abbildung].	
2549 
cca1d73f-ca2a-4a72-b95d-ff6613d0487d	Wikimedia Commons. [1}https://commons.wikimedia.org/wiki/File:CRISP-DM_Process_Diagram.png{2]	Wikimedia Commons. [1}https://commons.wikimedia.org/wiki/File:CRISP-DM_Process_Diagram.png{2]	
2550 
090617bb-3ece-4fd4-b94f-d1721b52d3e9	Kida, Y. (2019).	Kida, Y. (2019).	
2551 
8846504f-5e09-435f-87ba-e02492df9541	[1}Generalized linear models:{2][1} {2]	[1}Verallgemeinerte lineare Modelle:{2][1} {2]	
2552 
908752a4-a59c-47c8-81d4-4b958d85125a	[1}Introduction to advanced statistical modeling{2].	[1}Einführung in die fortgeschrittene statistische Modellierung{2].	
2553 
70c6f4a0-464f-4633-9962-450fa83fbf54	Towards Data Science. [1}https://towardsdatascience.com/generalized-linear-models-9cbf848bb8ab{2]	Auf dem Weg zu Data Science. [1}https://towardsdatascience.com/generalized-linear-models-9cbf848bb8ab{2]	
2554 
195e1851-75ef-42fc-86c9-801f5e9588fe	McCulloch, C. E., & Searle, S. R. (2001).	McCulloch, C. E., & Searle, S. R. (2001).	
2555 
1aa53d51-19a8-4e1e-b1c2-994c33ccb981	[1}Generalized, linear, and mixed models{2] .	[1}Verallgemeinerte, lineare und gemischte Modelle{2] .	
2556 
ef887b41-2e6b-4dcd-87b5-2b391ab85281	John Wiley & Sons.	John Wiley & Sons.	
2557 
118b8bee-645d-413d-a124-a0698eaa53c5	Mitchell, T. M. (1997).	Mitchell, T. M. (1997).	
2558 
7b132710-744d-4795-b72f-6e0448510b04	[1}Machine learning. {2]	[1}Maschinelles Lernen {2]	
2559 
c208fbd1-d33f-4ca7-b20c-18766033f740	McGraw-Hill.	McGraw-Hill.	
2560 
7256bdd2-75a4-4e65-af93-d8dc4060ae8f	Ray, S. (2017).	Ray, S. (2017).	
2561 
8a4dadbb-e078-41d1-af35-117768c39ba8	[1}6 easy steps to learn naïve Bayes algorithm with codes in Python and R{2]. Analytics Vidhya. [3}https://www.analyticsvidhya.com/blog/2017/09/naive-bayes-explained/{4]	[1}6 einfache Schritte zum Erlernen des naiven Bayes-Algorithmus mit Codes in Python und R{2]. Analytik Vidhya. [3}https://www.analyticsvidhya.com/blog/2017/09/naive-bayes-explained/{4]	
2562 
1d6de72c-f7cc-4fe7-82a7-2cd7a7156a01	Samuel, A. L. (1959).	Samuel, A. L. (1959).	
2563 
21ad12a6-0509-48c6-89a6-4227fc8b4b95	Some studies in machine learning using the game of checkers.	Einige Studien zum maschinellen Lernen anhand des Damespiels.	
2564 
33ecd65d-33d5-46d5-ac3a-f0a291f98bf3	[1}IBM Journal of Research and Development{2],[3} 44{2](1.2), 206—226.	[1}IBM Journal of Research and Development{2],[3} 44{2](1.2), 206-226.	
2565 
1c39d74e-b6a0-4a4f-99ea-5b211b37952c	Singh, D., & Kaur, K. (2012).	Singh, D., & Kaur, K. (2012).	
2566 
60b1326b-4636-45f9-86ce-8826e7ef49f9	Classification of abnormalities in brain MRI images using GLCM, PCA, and SVM.	Klassifizierung von Anomalien in MRI-Bildern des Gehirns mit GLCM, PCA und SVM.	
2567 
32fefd73-8bd1-424f-b8ce-8ccde9068392	[1}International Journal of Engineering and Advanced Technology{2],[3} 1{2](6), 243—248.	[1}International Journal of Engineering and Advanced Technology{2],[3} 1{2](6), 243-248.	
2568 
2e2ab6ce-b9ad-4a15-bde2-ebc769800cf0	Vapnik, V. (2000).	Vapnik, V. (2000).	
2569 
b8d0ab79-2859-4866-99e4-0be79493f97d	[1}The nature of statistical learning theory{2].	[1}Die Natur der statistischen Lerntheorie{2].	
2570 
981176e3-7ba8-4896-bf52-f9b119bd9ed2	Springer.	Springer.	
2571 
f84602a0-0f16-49d8-a6fa-274ec0043ab5	Webb, A. (2002).	Webb, A. (2002).	
2572 
094d2885-71dc-4c24-95d2-e847eb6322b3	[1}Statistical pattern recognition{2].	[1}Statistische Mustererkennung{2].	
2573 
49356a59-7d95-487c-be3b-5ce1d1c412fd	John Wiley & Sons. [1}https://doi.org/10.1002/0470854774{2]	John Wiley & Sons. [1}https://doi.org/10.1002/0470854774{2]	
2574 
1c5edc77-d2ab-4f91-b83f-0ac1791001cc	Wirth, R., & Hipp, J. (2000).	Wirth, R., & Hipp, J. (2000).	
2575 
6301a8f1-a637-47e7-8a72-0a958b33c734	CRISP-DM:	CRISP-DM:	
2576 
6a79a3e3-799b-41e5-96b2-0f21af1b7023	Towards a standard process model for data mining.	Auf dem Weg zu einem Standardprozessmodell für Data Mining.	
2577 
4ba460bb-b34a-44ee-97f1-63735ead3f9b	[1}Proceedings of the 4th international conference on the practical applications of knowledge discovery and data mining {2](pp. 29—39).	[1}Proceedings of the 4th international conference on the practical applications of knowledge discovery and data mining {2](S. 29-39).	
2578 
229d5976-1f12-47b7-8a0a-29dd9bdbb60a	Springer.	Springer.	
2579 
e9c7ddf3-7b66-45d8-8819-057ac34cc8e2	List of Tables and Figures	Tabellen- und Abbildungsverzeichnis	
2580 
f851dceb-f14a-4b42-b8d1-659d0de6845f	Backcover	Umschlagrückseite	
2581 
2229534d-e33c-4aaf-a9ee-a57dac7b8372	IU Internationale Hochschule GmbH	IU Internationale Hochschule GmbH	
2582 
120cd18c-e9c0-41f5-a052-c5b26723cf34	IU International University of Applied Sciences	IU International University of Applied Sciences	
2583 
17e2638d-548a-422c-962b-bea95c090362	Juri-Gagarin-Ring 152	Juri-Gagarin-Ring 152	
2584 
369fe8df-8e21-4d7a-af79-86f9ec3216bc	D-99084 Erfurt	D-99084 Erfurt	
2585 
d7ef35e7-d66f-4ee2-aec9-1223a84d7524	Mailing Address	Postadresse	
2586 
e65425e6-906a-47a3-b870-5aa7e8c9005b	Albert-Proeller-Straße 15-19	Albert-Proeller-Straße 15-19	
2587 
2b2291e5-692b-445b-bfcf-c3249ce3cd13	D-86675 Buchdorf	D-86675 Buchdorf	
2588 
e309980a-86b6-4b60-90ac-d0db12a00eca	media@iu.org	media@iu.org	
2589 
42ff8226-5321-4e91-b48d-ee430a52c460	www.iu.org	www.iu.org	
2590 
f19512c4-6fef-47ff-8846-08bf18fba62e	Help & Contacts (FAQ)	Hilfe und Kontakt (FAQ)	
2591 
b3693703-fd97-45dd-addc-6de5a2a0ff14	On myCampus you can always find answers	Antworten rund um Ihr Studium finden Sie	
2592 
1c6364c1-074c-4b60-85b6-2195cceb5cd0	to questions concerning your studies.	jederzeit auf myCampus.