You are viewing [info]ytsoy's journal

В прошлом году в июне читал мини-курс по машинному обучению и распознаванию образов. Содержание во многом было основано на известной книге Кристофера Бишопа + ряд других источников. В этом году тоже планирую сделать что-нибудь подобное, только, скорее всего, в мае. Участие бесплатное, требуется только желание разобраться как же работают разные методы и немного смелости, т.к. будет много математики.
Лекции все-таки будут на русском. Расписание и краткое содержание лекций здесь. Несмотря на большую плотность, многие вещи будут даваться на уровне идей. Моя основная задача -- рассказать основные идеи, которые используются в машинном обучении.
Содержание (время и место в файле):
  1. [11.05.2011] Мотивация. Линейная алгебра. Операции с векторами и матрицами. СЛАУ, геометрическая интерпретация. Ортогональные проекции. Метод наименьших квадратов. Линейная регрессия.
  2. [12.05.2011] Дискриминантный анализ. Линейный дискриминант. Фишеровский дискриминант. Логистическая регрессия. Алгоритм обучения перцептрона. Идея максимизации зазора. Машины опорных векторов.
  3. [15.05.2011] Ряд Тейлора для одномерного и многомерного случая. Нейронные сети. Гессиан. Выпуклая оптимизация. Собственные векторы и числа, геометрическая интерпретация и использование.
  4. [17.05.2011] Матрица ковариации. Метод главных компонент. Многомерный гауссиан. Генерация (псевдо)случайного гауссовского вектора. Алгоритмы оценки распределений. Алгоритм CMA-ES. Семейство алгоритмов IDEA.
  5. [19.05.2011] Условная вероятность. Оценка максимального правдоподобия. Вероятностные методы классификации и производящие модели. Байесовское принятие решений. «Наивный Байес». Смесь гауссианов. EM-алгоритм.
  6. [22.05.2011] Векторное квантование (карты Кохонена). Основные понятия нелинейной динамики. Сети Хопфилда. 

Подборка советов, с чего начать изучать Machine Learning:
"I want to begin studying Machine Learning. Could anyone advise me on where I could start so that I'll can efficiently cover the basics?"
http://bit.ly/HlccFN
  • Leave a comment
  • Add to Memories
В молодости довольно много занимался спортом, и это, плюс наследственность, не дают мне толстеть. Но организм требует нагрузки, и поскольку бессистемно заниматься -- толку мало, а на спортзал времени не хватает, да и денег жалко (я вообще, похоже, становлюсь жмотом похлеще Петрыкина :)), приходится искать альтернативы.

Есть несколько интересных программ, связанных с занятиями дома, вот, например, со-вполне-красноречивыми-названиями:
http://hundredpushups.com/
http://www.twohundredsitups.com/
http://www.twohundredsquats.com/
http://www.onefiftydips.com/
http://www.twentyfivepullups.com/

Рекордов там не ставят, но в форму приводят. Есть, конечно, еще всякие workout'ы, коих на ютубе толпа целая, но они опять-таки в большинстве бессистемные.

И пара слов, откуда эти ссылки, точнее первая. Есть такой блог: zenhabits, дословно "Дзенские привычки", очень классный блог, посвященных т.н. productivity и лайфхакингу, причем в очень спокойной и свободной манере. Любимый мой принцип "Кайдзен" во всей красе.

Есть и русскоязычная версия этого блога, созданная энтузиастами, но она довольно сильно "отстает" по выходу переводов статей.

... и рок-н-ролл

Решил на днях заняться расширением музыкального кругозора, а то знание попсы 90-x начала 2000-х и неважное знание рока/рок-н-ролла вызывает недоверчивые взгляды от сокомандников и чгкшников вообще :). Да и в музыкальных викторинах хочется выигрывать.

Взял за основу список 500 лучших песен от журнала Rolling Stone и призвал на помощь AIMP. В 3-ей версии есть возможность (при правильном скине) ставить рейтинг песни прямо в плейлисте, не залезая в библиотеку, и рейтинг заодно сразу видно.

Так вот, весь список у меня в отдельном плейлисте, беру из него 20 случайных композиций и закидываю во временный плейлист, который и слушаю. Если угадываю играющую песню, то ставлю в рейтинге на 1 звездочку больше ("Макарыч, рисуй звезду за сбитый!" :)). Если не угадываю, то смотрю название песни и исполнителя. Если у угаданной песни уже есть 5 звезд (т.е. вспомнил правильно исполнителя и название 6 раз), то песня переносится в отдельный плейлист выученных и вместо нее во временный плейлист добавляется другая песня.

Метод работает достаточно неплохо. 20 песен из временного плейлиста -- это где-то час с небольшим, т.е. можно не напрягаясь слушать в течение дня и не особо отрываясь от дел запоминать песни, так, что для выученных песен в голове остаются даже некоторые детали. Визуализация рейтинга в плейлисте показывает, какие песни запоминаются лучше, а какие хуже. За прошедшие два дня выучил таким образом с десяток исполнителей и песен. Не так уж и много, но зато без больших затрат времени и пойдет для долгосрочной перспективы. Когда закончится этот список, возьму другой сборник, а потом еще один и ... берегитесь соперники! :)

Wolfenstein 3D в браузере

Да-да, в честь 20-летия :)
http://wolfenstein.bethsoft.com/

Tags:

Пути в Википедии неисповедимы. Начал читать про события 8 мая, а закончил на законах Паркинсона. Очень, кстати, интересная штука, надо будет книгу потом почитать. Вообще, люблю сатиру про политику, одна из любимых книг "Да, господин, министр", настоятельно рекомендую :).

Tags:

  • Leave a comment
  • Add to Memories

Математика

Просто невообразимое количество небольших видео-уроков/советов по разным областям математики (в основном 1-2 курс): http://patrickjmt.com/#probability-statistics

На английском. Топики:
- алгебра
- арифметика
- высшая математика
- дифференциальные уравнения
- дискретная математика
- линейная алгебра
- теория вероятности и мат. статистика
- тригонометрия
- разное (комплексные числа, дроби и др.)

May. 5th, 2012

Портал о том, как надо делать презентации и выступления (случайно нашел): http://presportal.ru/ 
Почитал пару статей: мне понравилось.
Выложил презентации к завтрашнему семинару.
Прямые ссылки:
1. Лекция: http://qai.narod.ru/TomskWorkshop/lecture_05_2012.pdf
2. Доклад: http://qai.narod.ru/TomskWorkshop/neurorand.pdf
  • Leave a comment
  • Add to Memories
5 мая состоится очередной Томский семинар по вычислительному интеллекту. Семинар пройдет в субботу, 5 мая, в 10.25, ауд. 410, 10-й корпус ТПУ. Будет лекция по эвристикам для упрощения эволюционного поиска весов и структуры нейронных сетей, плюс результаты исследования НЭ алгоритма со случайным выбором операторов, которые привели к интересным выводам. 
  • Leave a comment
  • Add to Memories

Latest Month

May 2012
S M T W T F S
  12345
6789101112
13141516171819
20212223242526
2728293031  

Syndicate

RSS Atom

ClustrMaps

Locations of visitors to this page


Powered by LiveJournal.com
Designed by Tiffany Chow