Sombres des données: l'intelligence artificielle apprend à identifier les homosexuels sur la photo

Nous sommes devenus de s'appuyer sur un système d'apprentissage tout, de créer des listes de lecture à la gestion des voitures, mais comme tout outil, ils peuvent être utilisés dans des conditions dangereuses et contraires à l'éthique, afin de, et même par hasard. Aujourd'hui en est l'illustration de ce fait — un nouvel article de chercheurs de Stanford, qui ont établi un système d'apprentissage automatique, ce qui, selon eux, peut dire sur plusieurs photo... l'homosexuel en face de vous. Ou pas.

Évidemment, cette étude est surprenante et déroutante dans la même mesure. Outre le fait que le nombre de personnes vulnérables une fois de plus sera soumis à систематизированному l'invasion de la vie privée et de sujets intimes, tout cela affecte directement égalitaire par l'idée que nous ne pouvons pas (et ne doivent pas juger une personne par son apparence, et n'avons pas le droit de deviner l'orientation sexuelle sur un ou deux clichés. Absurde? La précision du système, sur lequel il est rapporté dans le travail, en attendant, ne laisse pas de place au doute: ce n'est pas seulement possible, mais aussi et fait.

Le Système saisit les émanations beaucoup plus mince que capable de воспрнимать gens voit des bouts dont vous ignoriez l'existence. Et elle démontre, comme prévu, privé de l'intégrité de la vie privée à l'ère de l'informatique de vue peut être tout simplement détruit.

Avant de passer à l'examen de plus, il faut préciser que l'étude a été menée avec de bonnes intentions. Des questions, bien sûr, ne peut pas compter le nombre. Les plus pertinents sont devenus des observations de Michal Kosinski et Илун Wong quant à pourquoi le travail en général vu la lumière:

«Nous étions très préoccupés par ces résultats et ont passé beaucoup de temps à essayer de les divulguer. Nous n'avons pas voulu exposer les personnes à des risques, dont eux-mêmes ont averti. La capacité de contrôler quand et à qui révéler leur orientation sexuelle, est essentielle, non seulement pour le bien-être de l'homme, mais pour sa sécurité».

«Nous avons cru que les législateurs et de la communauté LGBTQI doivent être conscients des risques auxquels sont confrontées. Nous n'avons pas créé un outil d'intervention dans la vie privée, plutôt montré que le simple et largement utilisé des méthodes constituent une grave menace à la vie privée».

Sans aucun doute, c'est juste l'une des nombreuses systématique des tentatives d'extraire des informations sensibles, telles que la sexualité, de l'état émotionnel ou des indicateurs de santé. Mais dans ce cas, le plus grave pour plusieurs raisons.

Voir ce que vous ne pouvez pas (et ne doit)

Dans un article publié dans le Journal of Personality and Social Psychology, est décrit en détail tout à fait normal, une approche fondée sur l'apprentissage par renforcement, dont la mission de définition de la possibilité d'identifier les personnes comme homosexuels ou non sur leurs visages. Remarque: le travail est encore en forme de brouillon.

En Utilisant la base de données avec des photos de personnes (qui ont été prises avec les sites de rencontres avec l'ouverture des données), les chercheurs ont réuni 35 326 photos 14 776 personnes, parmi lesquelles ont été tout aussi représentés les hommes homosexuels et les femmes. Leurs traits du visage ont été extraites et conçus pour: de la forme du nez et des sourcils à la végétation sur le visage et les expressions du visage.

Нейросеть d'un apprentissage en profondeur скушала toutes ces caractéristiques, remarquant quels sont habituellement associés à une certaine orientation sexuelle. Les scientifiques ne sont pas «засеивали» ses préjugés sur le fait, comme d'habitude, les gens ont l'air ordinaire ou homosexuels; le système est tout simplement attribué des caractéristiques et соотнесла leur sexuels préférences.

À ces modèles, vous pouvez les consulter pour permettre à l'ordinateur de deviner les préférences sexuelles de l'homme — et il s'est avéré que le système de l'IA est nettement mieux acquitte de cette tâche, que les gens. L'algorithme a pu déterminer correctement l'orientation de 91% des lui des hommes et 83% des femmes, une paire à la fois. Les gens qui ont fourni les mêmes photos, ont eu raison de 61% et 54% des cas, respectivement — il, jeter des pièces de monnaie a émis le même résultat.

Les Variations entre les quatre groupes sont décrits dans le deuxième article; outre les évidentes différences comportementales, comme les amours d'un groupe ou la même maquillage, la tendance générale était à la disposition «des femmes» traits chez les homosexuels et les «hommes» putain de lesbiennes.

Sur la figure suivante, où se trouvaient les traits indiquant l'orientation sexuelle

Il Convient de noter que cette précision du système a été réalisée dans des conditions idéales, le choix entre deux personnes, dont l'un гомосексуален. Lorsque le système a estimé un groupe de 1000 personnes, dont seulement 7% appartenaient les personnes homosexuelles (pour plus de représentativité réelle de la part de la population), ses résultats n'étaient pas les meilleurs. Dans le meilleur des cas, un échantillon de 10 personnes a été reconnue avec 90% de précision.

Il y a aussi une réelle possibilité de la présence de biais de systèmes de données: tout d'abord, inclure seulement les jeunes américains blancs type d'homme/de la femme et l'homosexuel normal.

«Malgré nos tentatives d'obtenir une plus grande variété de sélection de l'échantillon, nous avons été limités à l'étude des participants blancs des états-UNIS. Parce que les préjugés contre les homosexuels et l'utilisation en ligne des sites de rencontre inégalement réparties entre les différents groupes ethniques, nous n'avons pas pu trouver suffisamment de non blanc homosexuels».

Bien que les scientifiques suggèrent que d'autres groupes ethniques, les plus similaires faciaux les patrons et le système sera également efficacement les identifier, en réalité, il faut confirmer et ne pas présumer.

Il est possible d'affirmer que le classificateur recueilli des caractéristiques spécifiques pour les personnes sur les sites de rencontres, n'est pas sans l'aide d'un mécanisme d'auto sélection — par exemple, les hommes américains avec la routine sexuelle, l'orientation peut délibérément d'éviter l'apparence, qui aurait montré qu'ils peuvent être homosexuels.

Bien Sûr, dans la vraie efficacité de ce système est raisonnable d'en douter, car il est formé sur la base de la quantité limitée de données et pour la plupart, efficace sur des exemples, à partir de ce pool. D'autres études seront nécessaires. Cependant, il semble à courte vue de supposer que cette un système de travail est impossible.

vérité

Beaucoup prétendent que cette technologie n'est pas mieux «френологии 2.0», подставной relations indépendantes de traits physiques complexes de processus internes, et c'est compréhensible, mais il n'est pas vrai.

«de la Physionomie d'aujourd'hui partout, et à juste titre, rejeté comme une combinaison de superstitions et de racisme, déguisés en science», ont écrit les chercheurs dans l'introduction au travail (физиогномия juge par les traits du visage, tandis que френологи s'occupaient de la forme du crâne). Mais cette pseudo-science est un échec, parce que ses défenseurs se déplacent dans le sens inverse. Ils décidaient de qui sont impliqués dans des «affaires criminelles» ou «déviations sexuelles», puis de déterminer quels sont les traits sont communs pour ces personnes.

Il s'est Avéré que les gens sont tout simplement mauvais pour faire face à ce genre de tâches, nous voyons chez l'homme aussi beaucoup de lui-même et faisons les conclusions. Mais cela ne signifie pas que le visible traits et de la physiologie ou de la psychologie ne sont pas liés. Nul ne doute que les machines peuvent marquer des traits chez l'homme, qui elles-mêmes ne voient pas de petites chimiques traces des obus explosifs et de drogues à субтильных de motifs sur des scans IRM, qui parlent commençant le cancer.

De l'article, qu'un système de vision par ordinateur choisit aussi субтильные schémas artificiels et naturels, mais d'abord de ces dernières; les scientifiques ont essayé de se concentrer sur les grandes lignes, qui ne peut être modifié facilement. Cela soutient l'hypothèse que la sexualité est biodégradable, peut-être, sous l'influence de différents facteurs sur le développement du fœtus, qui peuvent conduire à de petites différences physiologiques et hormonaux schémas d'attraction. Observés système de régularités sont semblables à ceux qui prédit la théorie de la phase d'hormones.

à partir de Là commencent les plus larges et les débats philosophiques sur l'amour, la sexualité, le déterminisme et l'intelligence de l'émotion et de personnalités à de simples marqueurs biologiques. Mais nous n'allons pas. Mieux toucher un grave problème concernant la confidentialité.

les Dangers et les contraintes

Les Conséquences de la détection automatique de l'orientation de la personne sur plusieurs photos sont énormes, tout d'abord, et surtout, parce que mettent les personnes des groupes LGBT en danger partout dans le monde dans les endroits où ils restent une minorité opprimée. Le potentiel d'abus de ce système est énorme et certains peuvent sur le droit de ne pas accepter la décision des chercheurs au sujet de la création et à la documentation.

Mais tout de même, on peut affirmer qu'il est préférable d'avoir la possibilité de l'ouvrir pour réaliser des contre-mesures ou de toute autre manière à permettre aux gens de se préparer à elle. La différence est que vous pouvez masquer les informations que vous divulguez en ligne; vous ne pouvez pas contrôler ceux qui voit votre visage. C'est поднадзорное la société dans laquelle nous vivons, et dissimulée par le total look est de moins en moins.

«Même le meilleur des lois et de la technologie visant à protéger la confidentialité, à notre avis, est vouée à l'échec», écrivent les scientifiques. «L'environnement numérique est très difficile pour la police; les données vous pouvez facilement passer à travers la frontière, à voler ou à écrire, sans le consentement des utilisateurs.

Ce problème est infiniment complexe, mais démontre les capacités révolutionnaires de l'intelligence artificielle. Les conséquences de ces technologies, comme d'habitude, mitigé, mais il est très intéressant pour l'avenir de l'humanité et de l'individu. Les scientifiques eux-mêmes ne sont pas particulièrement optimistes pour l'utilisation de ces technologies dans l'avenir, mais sont réalistes à une époque où la technologie, qui devrait plan du salut, probablement jouera le méchant.

«Nous pensons que la poursuite de l'érosion de la vie privée est inévitable, et la sécurité des homosexuels et autres меньшинеств ne dépend pas de droit à la vie privée et du respect des droits de l'homme et de la tolérance de la société et de l'état», écrivent-ils. «Pour que le monde dans l'ère post-confidentialité était plus sûr et accueillant, il doit habiter le bien des gens instruits, radicalement intolérants à l'intolérance».

La Technologie ne sauveront pas nous-mêmes.

contenu Vide