/TK_1810

「ばえるーポン」は食べ物の写真のインスタ映え度を深層学習で自動的に判定し、その評価に応じて割引クーポンを発行するサービスです

Primary LanguageJupyter NotebookMIT LicenseMIT

ばえるーポン

Alt text

Youtubeリンク

製品概要

魅力 X Tech

背景(製品開発のきっかけ、課題等)

「SNSに写真を載せた時に目を引くような写真になっている」ことを指す、 インスタ映え(インスタ映え) という言葉が当たり前に使われるようになりました。 現在、飲食店に行って、食べ物の写真を撮影し、SNSに投稿する行為は、若い人のみならず老若男女がやっている当たり前の行為です。 我々は、この当たり前の行為はお店側目線で見ると広告のような存在であると考えました。そして、その広告(SNSへのインスタ映えな写真の投稿)の投稿者であるユーザーに対しては、報酬が発生するべきではないかと考えました。 その一方で、SNSには必ずしも良い写真だけが投稿されるわけでなく、飲食店にとってデメリットな「食べカス」や「映りの悪い料理」が投稿されることがあります。 我々は、この問題を解決し、尚且 飲食店に行く食べ物の写真を撮るSNSに投稿する という当たり前の行為に報酬が付与されるアプリケーションである「ばえるーポン」を開発しました。

製品説明(具体的な製品の説明)

ばえるーポンは食べ物の写真のインスタ映え度をAIによって判定させ、そのインスタ映え度に応じた割引クーポンを発行するアプリケーションです。

ばえるーポン利用のながれ

1.アプリを起動
2.食べ物を撮影する
3.飲食店の情報(位置情報から自動で取得)・食べ物カテゴリー・詳細を入力し、SNSに投稿する
4.SNSに投稿されると、AIサーバーに画像が送信され、インスタ映え度を算出する
5.インスタ映え度に応じた割引クーポン(次回以降利用可能)が発行される
6.クーポンはQRコードで発行され、お店側の端末でQRコードを読み込むことで利用できる

ばえるーポンの特徴・メリット

ユーザー視点

1. いつもやることに報酬が発生する

写真を撮り→SNSに投稿するという、今では当たり前の行為にクーポンという報酬が出る。いつもやっている行為に報酬が出るなんて最高じゃないですか?
2. インスタ映えかどうか判定してくれる

SNSに写真を投稿する上で、AIがインスタ映え度を算出してくれる。

飲食店視点

1. 次回以降利用できるクーポンによりリピーターが発生する

このアプリケーションはクーポンを発行しますが、「次回以降利用できる」というのがポイント、次回以降利用できるということは、もう一度行きやすいという、お得感を生み出します。
2. SNSでの拡散によって、広告効果が見込まれる

SNSへの投稿はいわば「広告」です。特に身内のSNS投稿は、通常の広告よりも口コミ効果が強いと考えています。
3. インスタ映え・クオリティの高い写真がSNSに投稿される

クーポンは写真のクオリティによって発行されるため、ユーザーはクオリティの高い写真を撮影し、SNSに投稿しようとします。これにより、必然的にSNSにクオリティが高い写真が出回ることになります。飲食店にとってデメリットな「食べカス」や「映りの悪い料理」が出回ることはなくなるでしょう。

解決出来ること

  1. ユーザーにとってはいつもやっている当たり前の行為にクーポンという報酬が付与される
  2. 飲食店は単にクーポンを配るのではなく,SNSの投稿(口コミ)を通じて新たな顧客を獲得でき,再訪も促せる.
  3. 飲食店にとってデメリットな「食べカス」や「映りの悪い料理」が投稿されることを防ぐことができる

今後の展望

サービス的な展望

  • 飲食業界以外にもこのサービスを活用する サービス面は、食べ物だけでなく、娯楽施設や観光名所,ファッションなどに応用することで、様々な企業の手助けができるだけでなく、地域の活性化ができ、社会全体を豊かにできると考えています。

技術的な展望

  • 写っている食べ物を自動的に分類し認識する 物体検出を更に発展させ,写っている食べ物の種類(ラーメン,カレー,オムライス)や役割(主菜,副菜,コップ)なども自動的に分類できるようにする

  • インスタ映え度推定の精度向上 このアプリケーションでは撮影された写真がデータベースに蓄積されていきます。利用されればされる程、ユーザーがインスタ映え度を高く出力させようとする写真が手に入るので,このデータを用いることで、インスタ映え度の推定精度はさらに向上できると考えています。

  • エッジでの高速な推論処理 今回はサーバー側でGPUを用いてディープラーニングの推論処理を行いましたが,モデルの軽量化,CoreMLなどを用いることで,より高速にユーザーの手元のリソースでインスタ映え度を推定できると考えています.

開発内容・開発技術

システム構成図

活用した技術

API・データ

フレームワーク・ライブラリ・モジュール

  • サーバーサイド * 言語:Ruby * フレームワーク:Ruby on Rails * Twitter API * Swagger
  • iOSアプリ * 言語:Swift * 使用ライブラリ * Swifter * Alamofire
  • ML(AI) * 言語: Python * フレームワーク * Pytorch * Keras * Flask * モデル: * NIMA * YOLOv3

デバイス

  • iPhone8

研究内容・事前開発プロダクト(任意)

ご自身やチームの研究内容や、事前に持ち込みをしたプロダクトがある場合は、こちらに実績なども含め記載をして下さい。

  • アプリケーション・DB設計
  • 各種データセット
    • 画像とそのインスタ映え度のデータ
    • 画像と料理のバウンディングボックスのデータ

独自開発技術(Hack Dayで開発したもの)

2日間に開発した独自の機能・技術

  • iOSクライアント
  • バックエンドサーバー
  • インスタ映え度の推定モデルの学習