kurgus (kurgus) wrote,
kurgus
kurgus

Category:

О машинной педагогике

На фоне нынешних верований в прогресс всемогущество machine learning как-то упускается из виду, что противоестественный искуственный интеллект нуждается в обучении и воспитании.

Вот и случился на этой неделе инцидентик.
Секьюрити уважаемого заказчика месяца полтора назад нацепили на группу серверов искуственного гения безопасности и нажали кнопочку "учиться".
Гений старательно учился бейзлайнился, формируя в себе понятия о том, что такое хорошо и что такое плохо паттерны нормально-штатного функционирования.
И вот рабовладельцы его админы решили, что обучение закончено и дернули рубильник со "школьник" на "выпускник".
А еще через пару дней нами была дана команда на перезагрузку после обновлений.
И гений ее успешно заблокировал. Поскольку такого в программе обучения не было. Молча.
А наши люди офигели от непоняток и устроили инцидентную эскалацию, поскольку об этом гении нам никто ничего не сказал.
Получилось не то чтобы весело, но весьма бурно.

Моралитэ:
1. Гению - хоть человеческому, хоть машинному, нужна всеобщая известность. И нефиг сигуранце секретить своих гениев.
2. Нефиг при воспитании-обучении воспитуемого помещать в тепличные условия, ограждая от грубой прозы жизни.
3. И машинный педагог должен быть. Растолковывая машинной байесовской деточке, что это у тебя false positive, это - false negative, а вот эти neutral, с учетом вот этого и этого коэффициента и эдакого correlation rule - так ваще алярм + ticket... 
Tags: it, Жизнь, Мемуаристика, Работа
Subscribe

  • И где эвакуация граждан РФ?

    Загрянул на выходных в ру-ТВ. Вовсю уверяют, что над свежеиспеченными владельцами ру-паспортов гражданами РФ в ЛДНР нависла страшная…

  • Молнии в ассортименте: турецкий и крымскотатарский

    В турецком присутствует два названия двух весьма различных типов молний: şimşek, молния между облаками, и yıldırım, молния между облаком и землей.…

  • Встреча Байдена и Путина

    Сколько всякой фигни уже успели понаписывать в интернетах о Subj - от маразматически-гопнического "он первым моргнул, ура!" до "Байден…

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments