Dunkle Daten: künstliche Intelligenz lernt bestimmen homosexuellen auf dem Foto

Wir angewiesen sind auf die Systeme des maschinellen Lernens in allem, von der Erstellung von Playlists bis hin zur Verwaltung von Autos, aber wie jedes Werkzeug, Sie können verwendet werden in gefährliche und unethische Zwecke, und sogar zufällig. Die heutige illustration dieser Tatsache — der neue Artikel von Forschern aus Stanford, die ein System für maschinelles lernen, die Sie für die Behauptung, sagen kann über mehrere Foto... ein Homosexueller vor Ihnen. Oder nicht.

Offensichtlich, diese Studie ist überraschend und frustrierend gleichermaßen. Abgesehen davon, dass benachteiligte Menschen wieder ausgesetzt werden систематизированному Invasion der Privatsphäre und intime Themen, all dies wirkt sich unmittelbar auf eine egalitäre Vorstellung davon, was wir nicht können (und nicht müssen) urteilen über einen Menschen nach seinem Aussehen, und haben auch nicht das Recht zu erraten sexuelle Orientierung für ein oder zwei Bilder. Absurdität? Die Genauigkeit des Systems, die in der Arbeit berichtet, inzwischen lässt keinen Raum für Zweifel: jetzt ist es nicht nur möglich, sondern auch getan.

Das System nimmt die Emanation viel mehr dünne als fähig воспрнимать Menschen — sieht Hinweise, von denen Sie nicht einmal wissen. Und es zeigt, wie beabsichtigt, dass die private Unantastbarkeit, das persönliche Leben im Zeitalter der allgegenwärtigen Computer Vision kann einfach zerstört werden.

Bevor Sie an der Diskussion des Systems, zu klären, was die Studie wurde mit den besten Absichten. Fragen, natürlich, nicht als Zahl. Die aktuellsten, die vielleicht die Hinweise Michal Kosinski und Илун Wong darüber, warum die Arbeit überhaupt das Licht der Welt erblickt:

«Wir waren sehr besorgt über diese Ergebnisse und verbrachte viel Zeit damit, Sie überhaupt zu veröffentlichen. Wir wollten nicht aussetzen Menschen Risiken, von denen Sie sich gewarnt. Die Fähigkeit zu kontrollieren, Wann und wem offenbaren Ihre sexuelle Orientierung, ist von entscheidender Bedeutung nicht nur für das Wohlergehen der Menschen, sondern auch für seine Sicherheit.»

«Wir glaubten, dass der Gesetzgeber und die Gemeinschaft ЛГБТК müssen sich bewusst sein über die Risiken konfrontiert. Wir nicht schaffen das Instrument der Einmischung in die Privatsphäre, vielmehr haben gezeigt, dass einfache und weit verbreitete Methoden stellen eine ernste Bedrohung für die Privatsphäre».

Auf jeden Fall, es ist nur eine von vielen systematisierten Versuch, Sie zu entfernen sensible Informationen wie Sexualität, emotionalen Zustand oder Krankenakten. Aber in diesem Fall ernster genommen, aus mehreren Gründen.

Sehen, dass es unmöglich ist (und nicht notwendig)

In einem Artikel im Journal of Personality and Social Psychology, ausführlich beschrieben durchaus übliche Vorgehensweise, basierend auf einer Ausbildung mit Verstärkung, dessen Aufgabe die Definition von Möglichkeiten der Identifizierung von Personen als Homosexuell oder nicht an Ihren Gesichtern. Hinweis: arbeiten Sie immer noch in Form eines Entwurfs.

Unter Verwendung einer Datenbank mit den Bildern von Personen (die wurden mit der Dating-Sites mit offenen Daten), die Wissenschaftler sammelten 35 326 Schnappschüssen 14 776 Menschen, unter denen gleichermaßen vertreten waren Homosexuelle Männer und Frauen. Ihre Gesichtszüge wurden extrahiert und berechnet: von der Form der Nase und der Augenbrauen bis der Vegetation auf dem Gesicht und Gesichtsausdruck.

Нейросеть Deep-learning-aß alle diese Merkmale, zu bemerken, welche in der Regel im Zusammenhang mit einer bestimmten sexuellen Orientierung. Wissenschaftler nicht «засеивали» Ihren vorbehalten, in der Regel sehen aus wie Menschen mit normalen oder Homosexueller Orientierung; das System einfach verteilte Merkmale und соотнесла Sie mit den sexuellen Vorlieben.

Zu diesen mustern können Sie sich, lassen Sie den Computer, um zu erraten, die sexuellen Vorlieben, die Person — und es stellte sich heraus, dass das System die KI deutlich besser zurecht mit dieser Aufgabe, als die Menschen. Der Algorithmus der Lage, richtig zu bestimmen die Ausrichtung 91% der ihm vorgestellten Männer und 83% der Frauen, für ein paar mal. Menschen, die haben dieselben Aufnahmen, hatten Recht in 61% und 54% der Fälle entsprechend — das heißt, Münzwurf herausgab würde das gleiche Ergebnis.

Unterschiede zwischen den vier Gruppen beschreibt im zweiten Artikel; abgesehen von den offensichtlichen Verhaltens-Unterschiede, wie Balz einer Gruppe oder einem ähnlichen make-up, der Allgemeine Trend war auf Lager «weiblichen» Merkmale bei schwulen und eine «männliche» Lesben der Teufel bei.

die Abbildung zeigt, wo die Merkmale, die auf die sexuelle Orientierung

Anzumerken ist, dass diese Genauigkeit des Systems wurde erreicht unter idealen Bedingungen die Wahl zwischen zwei Personen, von denen гомосексуален. Wenn das System bewertet eine Gruppe von 1000 Personen, von denen nur 7% gehörten den homosexuellen Menschen (für mehr Repräsentativität der tatsächliche Anteil der Bevölkerung), Ihre Ergebnisse waren nicht die besten. Im besten Fall ist eine Stichprobe von 10 Personen erkannt wurde mit 90-prozentiger Genauigkeit.

Es Besteht auch die Reale Möglichkeit von Bias bei System wegen der Daten: Erstens, umfassten nur den Jungen weißen Amerikanern Typ Mann/Frau und ein Homosexueller/normal.

«Trotz unserer versuche, um eine Vielzahl von Auswahl, wir waren beschränkt auf den weißen Teilnehmern der Studie aus den USA. Da Vorurteile gegen Homosexuelle und die Nutzung von Online-Dating-Sites ungleich verteilt zwischen den verschiedenen ethnischen Gruppen, wir konnten nicht finden, eine ausreichende Anzahl von nicht-weißen homosexuellen Teilnehmer».

Obwohl die Wissenschaftler vermuten, dass andere ethnische Gruppe, sind wahrscheinlich eine ähnliche Gesichts-Muster und das System wird auch effektiv zu bestimmen, in Wirklichkeit ist es notwendig zu bestätigen, anstatt anzunehmen.

Auchman kann behaupten, dass das Kategorisierungsmodul sammelte Merkmale, die typisch für die Menschen auf Dating-Sites, nicht ohne die Hilfe des Mechanismus самоотбора — zum Beispiel die amerikanischen Männer mit normalen sexuellen Orientierung können absichtlich zu vermeiden, dem Aussehen, der gezeigt hätte, dass Sie möglicherweise homosexuellen.

Natürlich, im wirklichen Leistungsfähigkeit dieses Systems angemessen zu bezweifeln, da lernt Sie auf der Grundlage der begrenzten Datenmenge und zum größten Teil wirksam auf den Beispielen aus diesem Pool. Die Durchführung weiterer Studien notwendig sein wird. Allerdings scheint es kurzsichtig anzunehmen, dass ein solches funktionierendes System ist nicht möglich.

die Wahrheit sagen

Viele behaupten, dass diese Technologie nicht besser als «френологии 2.0», eine Fälschung Zusammenhang ungebundenen körperliche Merkmale mit komplexen internen Prozesse, und das ist verständlich, aber nicht richtig.

«Physiognomie heute allgemein und mit Recht abgelehnt, da die Kombination von Aberglauben und Rassismus, getarnt unter der Wissenschaft», schreiben die Wissenschaftler in der Einleitung zu der Arbeit (физиогномия richtet durch Gesichtszüge, während френологи Beschäftigten sich mit der Form des Schädels). Aber diese Pseudo-Wissenschaft versagt hat, weil Ihre Unterstützer bewegten sich in die entgegengesetzte Richtung. Sie entscheiden, wer darin verwickelt ist in der «kriminellen Taten» oder «sexuelle Abweichungen», und dann bestimmt, welche Merkmale sind für solche Menschen.

Es stellte sich heraus, dass die Menschen einfach schlecht mit dieser Art von Aufgaben — wir sehen in den Leuten zu viel selbst machen und instinktive Erkenntnisse. Aber das bedeutet nicht, dass die sichtbaren Merkmale und die Physiologie oder die Psychologie angegliedert. Niemand zweifelt daran, dass die Maschinen markieren kann in den Menschen Eigenschaften, die Sie selbst nicht sehen, von winzigen chemischen Spuren explosionsgeschosse und Drogen bis schlanke Muster auf dem MRT-scan, die sagen beginnenden Krebs.

Aus dem Artikel folgt, dass Computer-Vision-System wählt gleich schlank Muster, wie künstliche und Natürliche, aber vor allem die letzten; die Wissenschaftler versuchten, konzentrieren sich auf Merkmale, die nicht geändert werden kann mit Leichtigkeit. Dies stützt die Hypothese, dass Sexualität biologisch bestimmt, vielleicht unter Einwirkung verschiedener Faktoren auf die Entwicklung des Fötus, die dazu führen, dass kleine physiologische Unterschiede und hormonalen Systeme der Attraktivität. Die beobachteten Gesetzmäßigkeiten System sind vergleichbar mit denen der Theorie vorhergesagt предродовых Hormonen.

Der Startschuss für breitere soziale und philosophische Debatten über Liebe, Sexualität, Determinismus und der Intelligenz der Emotionen und Persönlichkeiten zu einfachen biologischen Merkmalen. Aber wir werden darüber nicht werden. Besser verstehen-eine andere ernste Probleme bezüglich der Vertraulichkeit.

Gefahren und Einschränkungen

Die Folgen der automatischen Erkennung der Ausrichtung des Menschen auf mehreren Fotos sind riesig, vor allem und am wichtigsten, weil die Menschen Gruppen ЛГБТК gefährdet in der ganzen Welt an Orten, wo Sie bleiben Unterdrückten Minderheit. Das Potenzial des Missbrauchs eines solchen Systems ist immens und einige können zu Recht nicht einverstanden mit der Entscheidung der Forscher über Sie erstellen und dokumentieren.

Aber genauso kann man argumentieren, dass es besser ist, die Möglichkeit haben, es zu öffnen, um Gegenmaßnahmen zu implementieren oder auf andere Weise damit die Menschen sich darauf vorzubereiten. Der Unterschied ist, dass Sie können die Informationen verbergen, die du einstellst Online; Sie können nicht kontrollieren die, wer sieht Ihr Gesicht. Es поднадзорное Gesellschaft, in der wir Leben, und von dem verborgenen gemeinsamen Blick bleibt immer weniger.

«Auch die besten Gesetze und Technologien, um den Schutz der Privatsphäre, unserer Meinung nach, zum scheitern verurteilt», schreiben die Wissenschaftler. «Die digitale Umgebung ist sehr kompliziert für die Polizei; die Daten können leicht übertragen über die Grenze zu stehlen oder zu schreiben, ohne Zustimmung der Nutzer».

Dieses Problem ist unendlich kompliziert, aber es zeigt eine erstaunliche Möglichkeiten der künstlichen Intelligenz. Die Folgen einer solchen Technologie, wie üblich, vieldeutig, aber äußerst interessant für die Zukunft der Menschheit und des einzelnen Menschen. Die Wissenschaftler selbst nicht besonders optimistisch schätzen den Einsatz dieser Technologien in der Zukunft, aber sind Sie realistisch in einem Zeitalter, wo Technologie, von denen voraussichtlich den Plan der Erlösung, wahrscheinlich spielt den Bösewicht.

«Wir glauben, dass die weitere Erosion der Privatsphäre ist unvermeidlich, und die Sicherheit von schwulen und anderen меньшинеств hängt nicht vom Recht auf Privatsphäre, und von der Einhaltung der Menschenrechte und der Toleranz gegenüber Gesellschaft und Staat», schreiben Sie. «Um die Welt in der ära der post-Privatsphäre wurde sicherer und gastfreundlich, die ihn bewohnen müssen gut ausgebildete Menschen, radikal INTOLERANTE Intoleranz».

Technologie uns nicht retten vor sich selbst.

content Techcrunch