<<<担当作業>>> *Webスクレイピングに挑戦! <<>> ○期間:5月17日(第5回)から5月31日(第7回まで)((br)) *天気予報のAPI:OpenWeatherMap (サンプルコードはRubyを使用) ((br)) [URL:https://qiita.com/nownabe/items/aeac1ce0977be963a740] <<{スクリーンショット_2019-05-17_15-19-26.png} →7行目の"zip=*"は郵便番号を指定できる。((br)) →その他にも、"q=*"で都市名、"lat=*&lon="で緯度・経度を指定できる。 ==*JavaScriptによって、linuxのコマンドを実行してテキストファイルを抽出する((br))== ==→Node.jsのインストールが必要[参照:http://wiki.cis.iwate-u.ac.jp/~yamanaka/csd/2019/material/nodejs/]((br))== ==<メリット>((br))== ==・RubyをJavaScriptに埋め込む必要がなくなる。((br))== ==[URL:https://qiita.com/TsuyoshiUshio@github/items/cf4b28e7999403f7a04c]((br))== ↑中止(Pythonに絞って調べることにする) <<>> <<<>>> (Webスクレイピングの流れ) (1. 天気、ニュースなどの情報が書かれたWebサイトからhtmlデータを取得する。)((br)) ・"requests"というライブラリを使用してhtmlデータを取得する。((br)) [URL:https://qiita.com/sqrtxx/items/49beaa3795925e7de666] (2. 取得した情報から必要な部分をtxtファイルやcsvファイルとして抽出。)((br)) ・"BeautifulSoup"というライブラリを使用してhtmlから必要な情報を抽出する。((br)) [URL:https://qiita.com/U-MA/items/896c49d46585e32ff7b1] [URL:https://www.htmllifehack.xyz/entry/2017/10/07/010341] (3. メイン画面に抽出ファイルの情報を表示して加工する。)((br)) ・JavaScriptで抽出ファイルから必要箇所を抜き取ってメイン画面に表示する。 <<<>>> ・"Brython"を使ってJavaScriptで実行する。((br)) [URL:https://qiita.com/Senple/items/f5ccb083d0cf7c997d3d] <<{Brython1.png} <<{Brython2.png} <<<活動記録>>> <<<<1. Webスクレイピング>>>>  プログラミング言語はPythonを使用して、「岩手大学ホームページ」から情報を取得することを目指す。((br))  * Webスクレイピングのやり方について調査!  まず、初めにWebスクレイピングの具体的なやり方について調査した。((br))  (Webスクレイピングの流れ)((br))  1. WebページのHTMLを読み込む。((br))  2. HTMLから必要な情報を指定して任意のファイルに書き込み((br))  3. 取ってきた情報を自分たちで使う。((br))  しかし、いざやろうとすると結構難しかった。まずはインターネットで調べたスクレイピングのサンプルファイルを参考に手順1を行う。((br)) この時にライブラリであるrequestsとBeautifulSoup4を使用した。(インストールしていただいた職員さんに感謝!!)((br))  次に、手順2を行う部分をコーディングした。((br)) これは完全に独学だったが、購入した本(実践力を身につけるPythonの教科書/株式会社マイナビ出版)を参考資料として作成した。((br))  最後に、手順3を行う。ここでは自分たちが作るWebアプリケーションに実装することが目標となるが、まさかの問題が発生!((br)) それはHTML,CSS,JavaScriptで書かれたメインのプログラムとPythonで書かれたスクレイピングのプログラムを結合させなければいけないということ。((br))  その対策は、調べによるとフレームワークであるDjangoを使うことで解決するとわかった。これについては後述する。((br))