????? ??????? ????????????? ???????? ????????? ???? ???????? ???????
??? ?? ???????????? ????? ????????????? ????????? ???? ? ?? ????? ??????? ? ??? ??? ?????????.
? ??????? ???? ??????? «?????????» ???????? ????????? ?????????. ??? ????????? ?? ??????? ?????: ????????? ??????? ???????, ??????????? ??????, ??????? ??????, ??????????? ???????? ??????? ???????? ? ???? ????? ??????. ?? ??? ?? ??? ???????????? ????? ?? ????? ????? ?????? ??? ????????? ?????? ?????? ??? ?????????? ????? ? ???? ??????????, ? ??? ??? ????????? ??? ????????
????????? ??????????? ? ?????????? ?????????? ? ???????????? ??????. ??? ?? ???????????: ????????? ??????? ???, ????? ??????? ???????? ??????? ?????? ????????????? ????? ?????????????? ??????????. ??? ?? ????? ??????????? ????????????? ????????? ???? ?????? ?????? – ??? ?????? ?? ?????????? ? ?? ??????? ??????????? ???? ?????????. ??? ?????????????? ??????, ????????? ??????? ?? ?????? ? ????????? ? ???????.
????? ? ????????? ?????????? ??????.
??????? ???????: ?? ??????????? ???????? ?? ????????? ???????
?????? ??? ??????? ?????? ?????? ????? ? ?????? ????????????? ??? ?? ????????? ??? ?????????? ?????? ??????????? ? ?????????? Google ????.
???????? ???? ??????? ?????????? – ??????????? ??????? ?? ????????. ? ?????????????? ????????? 10 ?????? ?????? ?????? ???????? ?????????????? ??? ??????????? ???????????? ??????????????? ????????.
??? ???????????? ?????????: ???????? ? ??????
??????? ???????????? ???????? ?????? ?????? ????-?????? ? ???????? ???????????? Nvidia A100 ??? Google TPU ?????? ??? ????? ?????? – ?????????? ??!
???????? ???????????? ????????????? ????????? ???????
- ?????????????? ???? – ???????? ??????? ?????? (? ???????, ????? ???????? ??? ??????? ????????).
- ??????? ?????? – ????????? ????????? ??????; ?????? ????? ?????????? «?????» ????????.
- ???????? ??????? – ????????????? ????????????? ????? (? ???????, ??????????? ????, ??? ?? ???? ????????? ???).
?????? ??????? ???????? ?? ???????? ?????????? ??????? ??????. ?????????? ????? ???? ???????? ??????????? ???????? – ?????, ??? ?????????? ???? ??????????? ?????? ??????? ?? ??????.
???????: ????? ??????? ??????? ?????????? ????????? ? ??????
??????, ?? ????? ???? ??????: ??????????, ???? ?? ??? ?? ??????????. ??????????? ????????????? ?????? ?????? ???? (???????? ???????????? ????????). ??? ???????? ?????? ?? ????????? ???? ?????????.
??? ?????? ??????? ?? ???????????? ???????????? ????????? ??????: ??? ???? ???????? ??????? ?? ?????? ?????? ??????????? ?????????, ?? ???????????? ? ???????? ????? ?? ???????.
- ?????????????? ??????? ????? ???????????? ???????????? ???????? – ? ???????, ??????? ????????.
- ?????? ???? ?????????? ?????? ???????? ? ??????????? ????? – ? ???????, ??? ??? ???.
- ?????? ??????? ????? ?????????? ??? ??????? ? ????????: ???! ????? ???? ???-?? ?????? ? ?????????? ? ??????? – ????????, ?????!
? ??? ??? ??????? ?????????????? ? ????????????? ?????????: ????????? ????? ??????????? (????????, GPT ?? OpenAI ??? BERT ?? Google), ? ???? ??????? ?????????? ??? ?????????????? ? ???????????.
??? ???? ?????????: ??????? ??????????
??? ????? ???????? ? ???????? ?????????? ?????????? ???????????? ????????? ????????? ????????? ???????? (attention): ?????? ??????? ?????? ?????, «???????? ????????» ?? ?????? ???????? ??? ????????? ??????????.
????? ????????
-
???? ????????
??? ?????????? ????? ????? ??? ???? ???????? ?????????? ?????????? ???????? (? ???????, ???? ????? ? ????? ? ??????????? ?????????). -
?????? ?????? (forward pass)
?????? ?????????? ????? ????????; ???? ????????? ????????????. -
?????????? ???????????
?????????? ???????????? ???? ? ?????????? ??????? (????????: ???? ??????? «???», ? ?? ???? ??? ??????). -
?????? ??????????????? ??????????? (backpropagation)
? ??????? ??????? ?????? ??????????? ???? ??????? ???????????? ? ??????????. -
????????? ?????
??????? ??????? ?????????????? ???, ????? ??????????? ????????? ??? ????????? ???????.
???? ???? ??????????? ????????? ?????, ???????? ???????? ?????? ?????? ?? ??? ???, ???? ???? ?? ?????? ????????????? ??????????? ?????? ??????.
??????? ?? ??????????
???????? ?? ??????????? ????????? ??????, ?????? ???????? ???????: ????? ?????????????? ??????? ?????????? ? ??????, ????? ???? ???????????? ? ??????????? 10 ?????? ?????? ?????? ? ??-????????? ??? ????????.
??????????? ???????? ?????: ??? ?????? ?????? ???????? ???????
?????????? ????????? ???? (CNN)
??????????? ??????, ??????? ????????? ???????? ?????? ? ????????? ?? ???????????. ?????????? ??????? ???????????? ??????? («??? ?????!» – ??? ???? ??? ????????). ?? ? ???????? ??????? ?? ???????????? ????????????? ??????????? ????? ?????????? ???????? ? ???????? ?????????? ??? ?????.
????????????? ???? (RNN)
??????????
? ????? ??????????? ????? ?????????? ??????????? ??????? ?? ???? ????????????? ????????? ?????:
????? ?? ?????????????? ????? ??????? ???????????? ????????? ??????? ???????? ?? ????????? – ?????? ??? ???????????? ???????? ??????????? ???????? ??????!
- CNN – ??? ???????????
- ???????????? ????????? ???? – ??? ???????????????????
- ????????????? – ??? ??????????? ?????????? ????????
? ????? ?????? ?? ???????????? ? ??????????? ?????????
- ?????????? ????? ?????? ??????????? ????? ?????????????? ????????????? e-mail.
- ??????????? ?????????????? ????????? ????????? ?????? ?????????
- ?????????? ????????? ????????? ???????? ??????? ?????????? ????????? AI
- ??????????? ??????? ??????????? ????? ????? ?? ????? ?????????????
- ???????????? ????? ????????????? ????????????? ??????? ? ??????.
- ?????????? ?????? ??????????? ???????? ? ?????? ???????
??? ?????? ????????? ?????????? ????? ? ????????? ?? 0 ?? 1 – ??????????? ????, ??? ?? ??????????? ????????????? ?????. ??????, ???????? ?????? ?????? ????? ?????????? ? ??????? ?????????? ?????? ? ?????????????? ??????????? ??????.
?????? ????? ???????? ??? ????? ??????? ? ???????
- ?????????????? ???????? ??????? ????????? ??? ????????
- ?????????? ??????? ????? GPT ??????? ?????? ???? ????????? ?????????????????????? ???????????
- ????????? ??????? ?? ????? ?????????? ?????????? ???????? ?????????? ? ????????? ????? ????? ????????.
????? ??????????? ? ??????? – ????????, ? ?????????????? ????????? ?????? ?????? ? ??????? ??????, ??? ??????? ?????????.
?????? ? ??????????? ??????? ?????.
-
??????????? ?? ????????
???? ????????????? ????????? ?????? ?? ?????-????? ??????? ????? ?? ????????? 2010-? ?????, ??? ????? ????????? ? ???????? ???????? ????? ?????. -
?????? ??????????????????
????? ?????????????? ????????, ?????? ????????? ??????? ?? ??? ???? ???????; ?? ???????? ???????? ??????????? ???? ??? ?????????. -
?????????????? ? ???????????
????????? ????????? ??????????? ???????? ????? ??????; ?????????? ????????? ???? «???????????????? ?????????», ????? ?? ???????????? ? ??? ???????, ??? ??????? ??? ????? ???????????. -
????????????? ??????? ??? ????????
??????? ?????????? ????????? ? ?????????, ????? ??????? ??????? ?????????? ??????? ????????; ?? ??? ????? ???????? ??? ??????? ? ???-?? ?????????? ????? ??? ?????????. -
???????? ?????
????????????? ?????????????? ?????????? ??????? ???????? ??????????? ?????????? ???????????? ??? ???? ?????????????? ??????????????? ?????? ??????????.
????? ??????? ??????? ? ??????????? AI ???????
- Data Scientist – ??????????? ?????????? ? ?????? ????? ????????? ????????.
- ML ??????? – ???????? ??-?????????? ? ?????????????? ????????
- AI Scientist – ?????????? ???????????????? ?????????????? ??????????? ???????????
- ??????? Manager AI-??????????? – ?????????? ???? ???????? ??????? c ??????????? ??
- AI Ethics Expert – ???????? ?? ??????? ??????????? ??????? ? ??????????? ???? ?????????????.
????? ?????? ?????? ????? ?????????????? ??????????? ?? ?????????????? ???????????
- ????????? ?????????? (? ????????? ???????? ???????)
- ?????? ?????? ??? (Python + ?????? PyTorch/TensorFlow)
- ??????????? ??????? ???????? ??????????
- ?????????? ??????? ??? ?????? ????? ??????? ??????
- ?????????? ?????????? ? ?????? ???????? ? ??????
??????? ????????????? ????????? ?? ? ??
????? ?????? ???????? ?????? ????????? ????????????? ?????, ???, ? ???????, ????????? ?????? ?????? ??????????? ????????? ??????. ?? ????? ???? ?????? ???????????????? ??? ??????? ??????????:
- ? ??????????????? ??????? ????????????? ?????? ??????????? ?????? ???????? ??????????????? ?? ???????????? ??? ??????? ?????;
- ?????????? ????? ?????????? ?? ??? ?????? ?????????????????? ????????;
- ?????? ?????????? ?????? ????????????? ??? ?????????? ??????????? ???-??????;
- ? ???????????? ????? ?????????? ??????????? ??????????? ?????????;
- ? ??????????? ?????????? ?????????? ??????? ??? ??????????????? ??????????? ??????????;
?????? ??????? ??????????? ???????????????? ??????????? ???????+??
????????? ?????????? ??????? ????????????? «????» ???????? ? ???????? ?????????? ????. ? 1958 ???? ????? ?????????? ????????????? ?????????? – ??????? ?????? ?????????????? ???????. ??? ???????? ???? ???????????????? ?????? ?????????????? ??????, ????????, ????????? ??????????? ?? ????????.
- ????? ????????? ????????? ?????????? ? ???????? ???????????? ????????;
- ?????????????? ???????????? ?????????? ??? ?????? ???????????????? ???????? ????????? ????????? ??????????;
- ?????? ????????????? ?????? ????? ??? ?????? ???????????? ???????;
????? ???????????? ????? ??????????? ? ??????????:
- ???????? ????????? ??????? ???????? ??????
- ??????????? ???????????? ????????
- ???? ?????????????????? ?? ????????? ?????? ???????????? ?????????
- ?????????? ???????? ????? ????????? ???????
????? ???????? ???????? ??????? ???? ????????? ????????? ???? ???????
- ?????????? Anaconda + ???????? ???????;
- ??????? ??????????????? ??????? ?????? TensorFlow ???? PyTorch;
- ???????????? ????????????? ????????? ???????? ?????????? ?? ???? ????? MNIST;
- ?????????? ?? ?????? ??????? (???????? ??????????? ????????);
- ?????????? ??????? ?? ????????!
???????? ????????? ??? ??????:
- ???? “????????? ?????” ?? ??????? ?? Stepik
- ??????? ????????? Learning Book ??? ????????? (?? ??????? ?????)
- ????? Data Science UA ? ????????
- ????????? ?????? Kaggle.com ??? ????????? ???????
????? ????? ?? ???????? ?????????? ??????????
?????????? ?????????? 10 ?????? ?????? ?????? ??? ?? ?????; ????????? ????????????; ????? ?????????; ??????????? ? ????????? ? ??????????????… ???? ???????? ??????? ??!