Microsoft займеться виловом упередженого ІІ
Source:
Microsoft — ось назва ще однієї компанії, яка спробує приборкати алгоритмічну упередженість. Ні для кого не секрет, що останнім часом штучний інтелект все частіше виходить «що поїхали» і починає нести нісенітницю, відображаючи власні забобони, упередження, упередженість і недосконалість нашого суспільства. Компанія хоче створити інструмент, який буде знаходити і попереджати людей про алгоритми ШІ, які можуть загрожувати їм.
Цікаво, що Microsoft, яка подає себе як компанія, яка створює ШІ для об'єднання людей, приєднується до лав Google і Facebook, щоб створити який-небудь інструмент для пошуку «погано вихованого» штучного інтелекту. Однак новий алгоритм Microsoft для пошуку упереджених алгоритмів зможе знайти і позначити тільки існуючі проблеми. А значить програми, які можуть призвести до збільшення рівня упередженості в поліції, наприклад, все так же будуть створювати і використовувати, просто не так довго, як раніше.
Щоб створити справжній ШІ, який буде справедливим і розважливим, треба більше працювати над зовнішнім виглядом. Можливо, залучати незалежну перевірку, щоб технічні компанії залучали зовнішніх експертів для аналізу своїх алгоритмів і пошуку ознак упередженості або в самому коді, або даних, які він обробляє.
Ідея ревізії штучного інтелекту набирає обертів, і деякі компанії з розробки ШІ почали залучати аудиторів, які можуть поглянути на їх код. Але це також вимагає, щоб ІІ був досить простим, або щоб аудитор добре розбирався в коді. У випадку з більш складними алгоритмами глибокого навчання так не вийде.
Інший можливий відповідь — краща підготовка людей, які фактично створюють ШІ, щоб вони могли самі визначати власну думку і упередження і тримати їх при собі, не дозволяючи алгоритмом інтерпретувати їх як факт. У всіх є приховані упередження, і світ технологій тільки виграє від того, що допоможе людям краще зрозуміти їх власний світогляд.
Більше:
Венера має газ, вироблений мікробами. Вчені знайшли іноземців?
Був припущення, що може бути життя на Венери Протягом багатьох років вчені шукають життя на Марсі. Але хто знає, може вони там не дивляться? У 2017 році дослідники з США та Великобританії почали шукати ознаки життя на Венері, яка є другою за величино...
Чи може мелатонін допомогти лікувати коронавірус?
Деякі лікарі вважають, що гормон сну допомагає при коронавірусі Схоже, що в переліку потенційних методів лікування COVID-19, які дослідники запропонували протягом декількох місяців пандемії, ще одне поповнення: мелатонін. Лікар в Техасі каже, що він ...
Що таке "гормон любові" і хто його не вистачає?
Окситоцин - гормон любові Людське тіло виробляє величезну різноманітність гормонів, кожен з яких виконує своє завдання. Наприклад, багато відомих ендорфінів приносять людям відчуття радості, а надлишок кортизолу сигналізує про стресовий стан людини. ...
Новини
«Бабусю, а навіщо тобі такий великий мозок?» І правда, навіщо?
У більшості тварин розмір мозку пропорційний розміру тіла — види з тілами побільше володіють великими мізками. Але у людини мозок у шість разів більше, ніж має бути, якщо виходити з розмірів наших тел. Це дивно, тому що мозок доро...
Шашлик і барбекю при смаженні виділяють смертельно небезпечні канцерогени
Китайські вчені повідомляють, що дим від смаження м'яса на відкритому вогні дуже негативно впливає на організм людини. Дослідники оцінили небезпеку летких канцерогенних сполук, що виникають при смаженні м'яса на вугіллі, і з'ясува...
«Бактерії-на-чіпі» допоможуть діагностувати хворобу зсередини
Вчені Массачусетського технологічного інституту побудували вживається всередину датчик, з генетично модифікованими бактеріями, які можуть діагностувати кровотеча в шлунку або інші шлунково-кишкові проблеми. «Бактерії-на-чіпі» вклю...
Плутон може бути гігантської звалищем комет
Плутон більше не вважають планетою, але від цього не стає менш цікавим об'єктом для досліджень. Вивчивши хімічний склад Плутона, група дослідників зі США прийшла до висновку, що карликовий світ міг з'явитися в результаті зіткнення...
Знайдено найшкідливіший смак електронних сигарет
досі йдуть спори про куріння електронних сигарет. Особливо складно щось сказати, коли доводиться порівнювати його зі шкодою від куріння тютюну. Проте нове дослідження, представлене на щорічній конференції Американського торакально...
Спостереження за пульсаром може наблизити вчених до розгадки таємниці FRB сигналів
Спостереження за пульсаром в сузір'ї Стріли з допомогою 305-метрового радіотелескопу в обсерваторії Аресібо показали, що речовина, выбиваемое потоком його заряджених частинок з поверхні компаньйона, діє як природна лінза, значною ...
Вчені займуться пошуком частинок, втрачених Великим адронним колайдером
Великий адронний коллайдер (БАК) — найбільш складний пристрій, коли-небудь створена людьми, і воно дозволяє нам досліджувати раніше невідомі галузі фізики. Однак у цій головоломці все ще бракує кількох елементів. Вчені сподіваютьс...
Ми складаємо лише 0,01 відсотка маси всього живого, але все одно умудряємося руйнувати все навколо
У порівнянні з іншою масою всього живого на Землі людство припадає всього нічого. Але незважаючи на таку «незначність», слід, залишений людством на цій планеті, по-справжньому руйнівний для всього іншого. Однією з головних цілей б...
Спалахи наднових могли призвести до масових вымираниям на Землі
Два з половиною і вісім мільйонів років тому неподалік від нас (за астрономічними мірками) спалахували дві наднові, які могли призвести до виснаження озонового шару Землі та численним небажаних наслідків для життя. Особливо серйоз...
На орбіті Юпітера оселився «міжзоряний іммігрант»
Відвідав нас у минулому році астероїд Оумуамуа, який прилетів з іншої системи, змусив учених задуматися про те, а чи не було в Сонячній системі аналогічних гостей? Стаття дослідників, нещодавно опублікована в журналі Monthly Notic...
Дійсно програми для знайомств допомагають знайти партнера для сексу
Не секрет, що більшість користувачів додатків для знайомств начебто Tinder або Bumble використовують ці сервіси для короткострокових відносин сексуального характеру. Іншими словами, вони шукають партнера для сексу без подальших зо...
250 давніх сибіряків стали першими корінними американцями
Новий аналіз послідовностей ДНК показав, що населення корінних американців, які мігрували з Сибіру, налічувало близько 250 осіб. Незважаючи на численні генетичні дослідження, які допомогли внести свій внесок у розуміння того, як с...
Китайські вчені запропонували пояснення дивним швидким радиовсплескам з космосу
Дослідники з Нанкинского університету (Китай) запропонували нове пояснення загадковим швидким радіоімпульсів (FRB), в рамках яких за кілька мілісекунд в космічний простір викидається величезна кількість енергії. На думку китайськи...
Жирафи знову здивували біологів
Існує думка, що групи, які збираються тварини, збільшуються, коли поруч з'являється хижак, тому що велика група зменшує ризик для окремої тварини бути вбитим і тому що «більше очей» зможе встежити за хижаком. Проте в новому дослід...
Запропоновано нове підтвердження існування дев'ятої планети Сонячної системи
Астрономи продовжують пошук таємничої «Дев'ятої планети», яка, на їх думку, може існувати практично на самій зовнішній межі нашої Сонячної системи. І хоча вчені досі не виявили прямих доказів її наявності, скарбничка непрямих озна...
Кінець теорій змови: Гітлер точно помер у 1945
Ось і прийшов кінець нескінченним теоріям про те, що німецький лідер нацистів не помер, а вирушив до Антарктиди будувати Четвертий Рейх. Адольф Гітлер точно помер у Берліні в 1945 році, прийнявши ціанід і кулю. Про це повідомили ф...
Надпровідники, що працюють при кімнатній температурі, приведуть нас до дивним технологій
Надпровідники можна назвати одними з самих цікавих і дивовижних матеріалів в природі. Не піддаються логічному обговорення квантово-механічні ефекти призводять до того, що у надпровідників нижче критичної температури зовсім зникає ...
Штучний інтелект створив рівні для Doom не гірше людей
Можна забезпечити сучасний тривимірний шутер нескінченною кількістю різноманітних рівнів? Можна, якщо натренувати створювати їх. Саме цим і зайнялися дослідники з Політехнічного Університету Мілана. Їх алгоритми тренуються на відо...
Виявлено ефективний метод відновлення рухових функцій після інсульту
Аналіз декількох десятків досліджень і наукових публікацій допоміг американським вченим з'ясувати ефективний метод відновлення роботи кінцівок після перенесеного інсульту. Про свої висновки вчені поділилися в журналі European Jour...
Церебральна містика: мозок — це душа, комп'ютер чи щось більше?
Більше 2000 років тому напівміфічний батько медицини Гіппократ з Кос спантеличив мислителів свого часу сміливою заявою про природу людської свідомості. У відповідь на надприродні пояснення проявів психіки, Гіппократ наполягав, що ...
Примітка (0)
Ця стаття не має коментарів, будьте першим!