Blog › Augen zu nach dem Produktrelease

Von David Hogg

Der technische Fortschritt schreitet rasant voran. Die neuen Möglichkeiten, die sich dadurch in der Entwicklung von Applikationen und Services ergeben sind riesig und erweitern sich ständig. Im Rahmen des Workshops «Ethics in Innovation» des Start-ups «ethix» wurde in der Cubera diskutiert, wo da die Ethik noch Platz hat. Software wie «Who is it?» (Cubera Solutions AG), welche es ermöglicht Personen mittels Gesichtserkennung zu identifizieren, rückten so schnell ins Zentrum der Diskussion. Inwiefern lassen sich ethische Werte mit Data Gathering vereinbaren? Wer übernimmt die Verantwortung für ein Produkt nach dessen Fertigstellung? Und bis wohin reicht diese Verantwortung?

Die vielen Chancen neuer Technologien

Neuartige und frische Technologien werden heutzutage erforscht und verbessert wie noch nie zuvor, auch durch junge Start-ups oder kleinere Firmen. Oft kommen Aufträge von grösseren Firmen oder Institutionen, die sich von Technologien wie Face Recognition und Machine Learning reibungslosere Abläufe und dadurch einen Wettbewerbsvorteil gegenüber der Konkurrenz erhoffen.

Ein Beispiel einer solchen Effizienzsteigerung könnte beispielsweise in Krankenhäusern stattfinden, indem Profile mit medizinisch relevanten Informationen von Patienten dank Gesichtserkennung mit der jeweiligen Person verknüpft und in Echtzeit abgerufen werden.

In einem Café wüsste der Barista mittels Gesichtserkennung schon, was sie gerne konsumieren würden und gegen was sie allergisch sind, während sie noch in der Schlange stehen (siehe Pilotprojekt im Café GLÜCK in Meilen).

Aber auch Menschen mit Gesichtsblindheit (Prosopagnosie) könnte dank einer Augmented Reality (AR) App, welche Kontakte visuell erfasst, das Leben einfacher gemacht werden.

Wie man sieht gibt es unzählige Möglichkeiten, aber so vielfältig die Gesichtserkennung zum Nutzen der Gesellschaft auch implementiert werden kann, genauso schnell kann sie auch der Gesellschaft durch Missbrauch schaden.

Dual Use

Ein Küchenwerkzeug wie ein Messer kann schnell zur Waffe werden. So kann auch ein Programm, das vermisst gemeldete Personen über Kameraaufnahmen identifizieren und nachverfolgen kann, in den falschen Händen das Werkzeug eines Überwachungsstaats sein. Oder ein anderes Beispiel: Smarthomes, welche die Heizung herunterfahren wenn sie weg sind, können einem potenziellen Räuber zeigen, dass sie gerade nicht Zuhause sind. Wie man merkt ist der potenzielle «Dual Use» solcher Technologie enorm. Ein Entwickler soll sich deshalb aktiv bemühen, sein Produkt auf der Skala zwischen Werkzeug und Waffe stetig in Richtung Werkzeug zu verbessern.

Würden sie es merken, wenn sie überwacht werden würden? Woher wissen sie, dass die Kameras, die in jedem Laden und in jedem Einkaufszentrum installiert sind, nicht ihren Ladenbesuch und ihr Kaufverhalten aufzeichnen? All dies kann verhindert werden, wenn der Entwickler Verantwortung für sein Programm trägt und seine Software nach ethischen Gesichtspunkten entwickelt.

Risiken und Werte

Eine Risikoprüfung, kurz genannt «Due Diligence», ist schon ein erster Schritt, um dem Missbrauch des eigenen Produktes vorzubeugen, denn auch der Kunde könnte die Software anderweitig verwenden oder weitergeben. Das Produkt selbst sollte natürlich auch sicher gestaltet werden, gegen das Umprogrammieren, Umfunktionieren und Weiteres. Wo und wer die Daten verwaltet ist ebenfalls sehr wichtig und muss den Entwickler zwingend interessieren. Es muss sichergestellt werden können, dass ein Produkt die Werte der Entwicklerfirma repräsentiert und auch die Rechte von durch das Produkt betroffenen Menschen nicht tangiert, namentlich Sicherheit, Freiheit, Gesundheit und Privatsphäre. Solche Werte stehen in direktem Zusammenhang mit genannten Risiken, doch diese Risiken können zum Schutze der Ethik auf ein Minimum reduziert oder sogar gänzlich ausgeschaltet werden, wenn der Weg und (End-) Gebrauch des Produktes komplett transparent ist.

Mein Fazit

Allein durch kleine Aufwände wie die Diskussion eines Auftrages, einen Backgroundcheck über den Auftraggeber, ein offenes Gespräch zwischen den Geschäftspartnern und Schulungen des Personals, welches das Produkt dann verwenden wird, kann ein Unternehmen Verantwortung für Software und Technologie tragen, die es herstellt. Ein Unternehmen muss sich diesen Risiken bewusst werden, denn wenn sie die Verantwortung, die sie der Gesellschaft gegenüber haben, nicht tragen können oder abgibt, so kann das gravierende Folgen haben. Nicht nur für das Unternehmen, doch vor allem auch für Menschen, die durch deren Blindheit tangiert werden.

Weitere Informationen

Showcase Gesichtserkennung

Zum Showcase «Who is it?»

Showcase Gesichtserkennung

Zum Showcase «Apps mit Gesichtserkennung im Dienstleistungssektor»

Spannende Referenzprojekte von Cubera

Zu den Referenzprojekten