/100knocks-preprocess

データサイエンス100本ノック(構造化データ加工編)

Primary LanguageHTMLOtherNOASSERTION

Name

データサイエンス100本ノック(構造化データ加工編)

Overview

  • データサイエンス100本ノック(構造化データ加工編)を実践するための演習問題とデータ、および環境構築のためのスクリプト一式
  • 演習問題はSQL、Python、Rで共通
  • 言語によっては向かない設問もあるが、「この言語のときはこう書けば実現できる」という技術習得を目指すことを優先
  • 個人情報のように見える項目は全てダミーデータを利用
  • 大学、企業など組織でのご利用にあたっては、「データサイエンティスト協会スキル定義委員」の「データサイエンス100本ノック(構造化データ加工編)」を利用していることを明示いただければ自由に利用してOK
  • データサイエンス100本ノック(構造化データ加工編)の利用に関するご質問等について、個別での対応は受けかねますので予めご了承ください
  • また、データサイエンス100本ノック(構造化データ加工編)の利用により生じるいかなる問題についても、当協会は一切の責任を負いかねますのであらかじめご了承ください。

Description

  • Dockerfile(Dockerfile.notebook, Dockerfile.postgres)
  • docker-compose.yml
  • スーパーの架空購買データと架空個人情報(csv)
  • データベースを初期設定するための各種スクリプト

Requirement

  • Docker Desktop(Windows 10 proffesional Edition, macOS)
  • Docker Toolbox(Windows 10 home edition)

※Windows 10 home でもWSL2をインストールすることでDocker Desktopが使えるようになりました!

Install

  • $ git clone [Repository URL] ※
  • $ cd 100knocks-preprocess
  • $ docker-compose up -d --build

※ OSユーザーのホームディレクトリ配下以外にダウンロードする場合、Dockerの共有設定が別途必要となります

※ Windowsでgitを利用する場合、デフォルト設定でのインストールを行うとスクリプトの改行コードを変えられてしまい、データベースを正しく構築できないことがあります

※ 改行を変えないよう設定するか、ZIPをダウンロードして利用してください

※ コンテナは作成されたがデータベースに接続できない、という場合の多くはディレクトリに対するアクセス権限設定の問題となります

※ Docker Toolboxでのコンテナ作成がうまく行かない場合、Gitのbashプロンプトから実行するとうまく作成できたという報告も見られます

※ インストールの説明はdoc配下の説明資料も参照してください

Usage

Document

  • doc配下にデータサイエンス100本ノック(構造化データ加工編)の説明資料と設問PDF、設問HTMLを配置
  • work配下に設問notebookを配置
  • work/answer配下に解答例notebookを配置
  • work/data配下に使用したデータを配置

Link

本コンテンツの内容やセットアップ手順について解説いただいているサイト、Dockerについて基本から学べるサイト

Author

The Data Scientist Society

LICENSE

  • docker/doc/100knocks_guide.pdfは協会ロゴ等が含まれるため、CC-BY-NDとなります
  • その他ファイルはMITライセンスに従います