Anatoly Vorobey:
Ця фотографія зроблена фундус-камерою (спеціальною камерою, яка фотографує очне
дно). Вона з минулорічної статті, в якій дослідники з Гугла показали, що
методами глибокого навчання можна передбачати деякі фактори ризику серцевих
захворювань на підставі таких ось знімків.(https://www.nature.com/articles/s41551-018-0195-0)
Але в процесі роботи над даними вони також спробували
передбачити іншу інформацію про хворих, наприклад, вік і стать. І виявилося,
наприклад, що їх нейронна мережа може з точністю до 97% передбачити, це очне
яблуко чоловіка чи жінки, при тому, що лікар-офтальмолог не може цього зробити
взагалі (точність 50-50).
Це дуже яскравий приклад того, як сучасні методи глибокого
навчання дають нам досягти приголомшливих результатів, але часто не дають нам
можливості зрозуміти і пояснити їх. На зображенні виділені зеленим кольором ті
ділянки фотографії, які нейронна мережа особливо активно використовувала для
встановлення статі - це ми можемо відстежити. Але що саме в цих ділянках вказує
на чоловіків або на жінок, дослідникам встановити не вдалося, незважаючи на досить
інтенсивну роботу у співпраці з медиками-фахівцями в даній області.
Так це і залишилося на даний момент чорним ящиком. Дай йому
фотографію - він тобі скаже стать і вік з великою точністю, а як - ніхто не
знає.
Сем Онєгін: Основна
ознака справжнього штучного інтелекту – це те, що його евристики будуть незрозумілими
і непрозорими для нас, вирощених виходячи з інших установок.
В кінці-кінців ми рівно таким же невиразним і неартикульованим
чином визначаємо що людина посміхається награно, приховує страх або закохана в
нас по справжньому.
Немає коментарів:
Дописати коментар