2018年07月27日

GCP × condor で分散計算

GCP × condor で分散計算をした記録です。

【前提】
対象とした計算は、高速道路・有料道路料金提供サービスや高速.jpで利用している、高速道路の料金計算。高速道路の料金は「最安経路」で決まるというルールがあります。日本の主要な高速道路はおよそ距離あたりいくら(例えば普通車は約24.6円/km)で決まっているのですが、中にはそうでない場所が沢山混ざっていて、例えば飛騨トンネルはちょっと割高(36.36円/km)だったり、100kmを超えると料率が低減していったり、中にはキロあたりではなくてここからここまではいくらで決まっている区間があったり(中には無料化されている区間があったり)するので、その中から「最安」の経路を探すのはなかなか難しい経路探索問題になっています。
そして、この料金データは、新しいインターができたり、新しい道路が開通したりする度に更新する必要があり、およそ月に一度、日本全国のインター約1000件の組み合わせ全100万ペアに、いくつかの割引料金を合わせて全500万ペア程度の計算を実施しています。

【これまでの状況】
さて、この沢山の計算を、これまではオンプレの計算サーバーで実施していました。現在はコア数およそ20を使って20時間程度を要していますので、400CPU時間程度かかっていることになります。しかし、そろそろこの計算サーバーも古くなってきたので、新しいマシンに置き換えたい。というより、せっかくクラウドデータ分析の仕事をしているので、この計算もクラウドに置き換えたいと思い立ちまして、今回の記事になります。

【これまでも置き換えようとしたことはあった】
実は、これまでもこの計算をクラウドに置き換えようとしたことはあったのですが、いくつかの課題(次)があって実現しませんでした。
  • 現状の計算には、ジョブスケジューラーとして condor を使っているのですが、これを他の仕組みに置き換えるのは大変。
  • 計算エンジンはC++で書かれていて、いくつかの実行形式に分かれているものを繋いで使っています。高速化にかなりチューニングしているので、これをひっくり返すのは大変。(例えばlightweight系の言語で書き直したりすると、おそらく計算時間が100倍以上になる。)
  • 計算が終わるのにある程度の時間がかかるので、ずっと監視しているわけにいかない。すると、クラウドでCPUを沢山調達してちょっと目を離すと、それなりに無駄なコストがかかってしまう。例えばCPU=128(例えばn1-standard-32を四本)などというモンスターマシンを調達して、計算を実施するのに手間取って数時間つけっぱなしにすると1時間で8ドル、前処理後処理に数時間かかったりするとそれだけで何十ドル、消し忘れて24時間たつと192ドル・・・これは痛い。
ということで、計算ができる、というところまでは試したことがあったものの、実際にクラウドに移行する迄には至っていませんでした。

【今回取り組んだ、最適な組み合わせ】
さて、このように、コスト面でちょっと難があって、というより、今までオンプレの低コストで運用し続けられていたので、実験以外ではあまりクラウド化に消極的だったのですが、先日たまたま見つけた GCP の記事で、これはいけそうだと思い、今回のクラウド移行になりました。その記事はこちら →「HTCondor による高スループット コンピューティング」。
この記事にあるアーキテクチャを少し修正して、料金計算の仕組みを作れると思いまして、取り組みを始めました。記事の図1を拝借して説明します。


この記事は、GCPの Deployment Manager を使って、この図の中にある condor の計算環境をすべて一気にデプロイし、計算を実施し、終わったらすべて削除します。Computeのインスタンスはプリエンプティブで立てるので低コスト。また、何台でも自由に設定できます。よって、この環境をデプロイし、沢山のジョブをSubmitして計算し、終わったら全部消せばよい。消し忘れてもcomputeインスタンスはプリエンプティブなのでコスト的に我慢できなくもない。(もちろん、ジョブが全て終了したら自動的に delete されるように仕込めばよい。)

一方で、現状の計算方法では、前処理、後処理がそれなりにかかり、その後にジョブ発行するので、SubmitするホストはMasterやComputeと一緒にデプロイするのではなくて、別途永続ディスクで立てておきたい。但し、そちらにはあまり大きなCPUリソースは必要ない。また、実はこの記事のサンプルでは master も compute も同じインスタンスタイプで立ち上がるのですが、計算負荷がかなり大きいのに対して、データのジョブの取り回しはさほど大きくないので、master は小さいインスタンスで十分。

そこで、修正後は次のような環境にしました。
  • Submit hostは別立てで用意し、前処理、後処理などの計算およびジョブの発行を実施する。
    • n1-standard-4 を永続ディスクで立ち上げ、condor および コンパイラと、計算環境の一式をインストール。
    • OSはContOS7を利用した。
    • condor の daemon は、MASTERとSCHEDD のみ。なお、submit hist への condor のインストールは、サンプルの中にある startup-submit.sh を参考にすると容易。
  • ネットワークはあらかじめ専用のネットワークとサブネット、ファイアウォールを作っておく。
    • 実は上の記事のサンプルでは、ネットワークとファイアウォールもデプロイ対象になっている。実は condor の環境設定で一番面倒なのはネットワークで、セキュリティをそこそこ意識しつつ、マシン間通信が筒抜けになるように設定しないとうまく動いてくれない。
    • しかし今回は、Subnet hostはこのデプロイとは別に立てるので、ネットワークもあらかじめ作っておいてその中にSubmit hostを置いておく。
  • デプロイマネージャーはmaster と compute だけをデプロイする。
    • ネットワークはあらかじめ作ってあるので、デプロイマネージャーはその中に master および compute を突っ込む。
    • このとき、想定する計算負荷によって、インスタンスタイプやノード数は適宜決める。容易に修正できるのは、デプロイマネージャーを使う利点で、計算エンジンの利用するメモリ容量に応じて(例えば、計算すべき経路が沢山あるところはハイメモリタイプで、そうでないところはスタンダードで)設定ファイルを修正すればよい。
    • まずは、master は n1-standard-4、compute は n1-standard-32、計算ノード数は3で設定した。これで96並列の計算ができる。

このように環境を作ると、作業フローは次のようになりました。

  • まず Submit host のみを立ち上げて、いろんな前処理を実施。
  • 計算エンジンによる並列計算の直前に、デプロイマネージャーから master および compute を立ち上げる。
  • master との通信が確立(*)したら(1,2分かかる)、job を submit する。
  • 計算が終わるのを待つ。もしくは放置する。
  • 計算が終わったら、デプロイマネージャーを利用して master と compute を消す。
  • Submit host で後処理を実施。最終結果をGCSに保存して終了。
  • Submit host を停止する。

これでかなり現実的な計算環境が構築できたと思います。現在は、このGCPプロジェクトのCPU数上限が128なので、96並列×4時間程度の計算になっていますが、CPU数上限を1000程度にすれば30分程で全ての計算を終わらせることができ、しかもコストはほとんど変わりません。さすがに1000並列はGCPさんに負荷を掛けすぎかなと思うので、いまのところは128程度にしておこうと思いますが、クラウド × condor の利用によって、レガシーな分散計算でも容易に環境を作れるようになりました。

【いくつか注記】

・本当は Dataflow がいい
おそらく、このような計算を実施するのにいま最も適しているソリューションは、Dataflow だと思います。が、C++で書かれているレガシーな計算エンジンををうまくラッピングして dataflow に持っていくのが難しそうだったので、今は断念しました。Cloud Functions もありだと思いますが、こちらは1ジョブあたり2GBまでしかメモリを使うことができず、この計算では最大4GB程度まで行くので、こちらも断念。そのうち、利用可能メモリがもっと大きくなったら、cloud functions にジョブを投げまくって回収するのが良さそうです。

・condor の submit - master 間の通信がうまくいかない
上の(*)で示したところ、Submit host と master との通信が確立したら、のところですが、実は現状、ただデプロイするだけではうまく通信ができず、いつまで経っても submit してあるジョブを master が読んでくれません。おそらく、submit host → master の順でマシンを立ち上げているからなのではないかと思いますが、正確なところはまだ理解していません。condor 環境を作るとき、通常は master と submit host が同じマシンだったり、master のある環境の中でsubmit host を立ち上げることが多いような気がしますが、それが逆になることで、submit host の側から master がうまく見えていないのではないかと思います。
これは、submit host の側でcondor の DAEMON をリセットしてあげるとうまく動きました。(systemctl reload を実施)ただ、もっといい方法があるんじゃないかなと思っています。

・CPU数やInner IP数は、googleに上限アップ申請が必要
これらの上限値は、最初はあまり大きくは割り当てられていないので、大規模分散計算をしたいときには上限アップ申請が必要です。1日程度で反映してくれました。CPU数上限だけ上げてもらえばいいと思っていたら、Inner IP数の上限に引っかかって二度手間になってしまいました。ただ、compute の方は、小さいインスタンスタイプを沢山立ち上げるのも、大きいインスタンスタイプで少なく立ち上げるのも、コスト的にはおそらくほぼ変わらないので、大きなインスタンスを少なく立ち上げて、IPなどの資源をあまり利用しない方がいいんじゃないかなと思います。特に、何十個もインスタンスを立ち上げると、外部IPをそれだけ食うので迷惑なんじゃないかと。(外部IPを割り当てない立ち上げ方があると思うので、そうすれば良いかも。)

【おわりに】
ということで、無事、計算環境をクラウド化することができたので、しばらく様子を見て、うまく継続運用できそうでしたら、高速道路料金計算はオンプレとはおさらばになります。
この高速道路の計算を始めたのが2008年頃ですから、それから10年くらいやってきました。1ジョブあたりの計算性能はその頃からあまり変わっていないのですが(エンジンのアルゴリズムやコードもほとんど変わっていない)、並列計算環境や、クラウド環境はまったく別次元で進化しましたね。こんなに使いやすく、また、安価になるとは思っていませんでした。当時はデータセンターで計算サーバーを何十台も借りて並べてもらったり(30CPUで一ヶ月に100万円ほどかかった記憶が・・・)、5年ほど前にはAWSのMapreduceで計算してみたりもしたのですが(当時は課金単位が1時間だったので、100CPUの計算で失敗すると100時間分の課金をされてしまった)、かかる手間と費用と時間が全く違います。高速道路料金の一回の計算にかかるGCPサーバー代はおよそ2000円。何度かやり直しても1万円。前処理や後処理も数十円。もちろん人件費が最も大きくて、情報収集や検証などでしっかりコストがかかっているのですが、サーバー代だけなら一回高々1万円で、96並列の計算環境が利用できるというのは、素晴らしい進歩だと思います。


posted by jinya at 20:07| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2018年05月02日

「前処理大全」(本橋 智光, 2018)を読みました。

「前処理大全[データ分析のためのSQL/R/Python実践テクニック] 」(本橋 智光, 2018)(→amazon.co.jpのリンク)を読みました。内容紹介で、「本書はデータサイエンスに取り組む上で欠かせない「前処理スキル」の効率的な処理方法を網羅的に習得できる構成となっています。」とのことですが、まさにその通り。私がいつもやっていることの大半がちゃんと書いてあって、それが整理されていました。少なくともここに書いてあることはデータ分析をする前に必須のスキルですし、データサイエンスの業界に入門する方はおさえておくのがよいと思います。データサイエンスにおいて、前処理の作業に大半を費やすのはそのとおりで、この前処理部分をどれだけ時間短縮できるかが、データ分析の仕事のクオリティを上げたり、沢山こなしたりする上で重要です。

一方で、前処理は前処理。分析自体はこの作業の次にありますし、そもそも前処理の前に、「仮説」が必要です。前処理を効率的にすることで、データサイエンティスト本来の業務である、仮説設定と検証分析に注力することになります。

本書自体はかなりボリュームがありますが、実施したい内容を、R, Python, SQLの三通りでコードサンプルを掲載してあるので、実際のボリュームはさほど大きくありません。Rだけ、Pythonだけ、SQLだけという読み方もできますし、これまでRしか書いたことなかったという人が、最近はPythonの必要性に駆られてとか、サーバーサイドでSQLだけで処理したい、と言うときに重宝すると思います。


posted by jinya at 16:57| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2018年02月23日

【Excel】でグラフの要素を選択する方法が変わった

Excelでグラフを操作する話。

Excelで作成したグラフにて、各データ系列を選択したい場合、グラフを選択したあと上下矢印キーを押すことで選択系列が順に変わりました。例えば、横軸に時間を、縦軸に東京の気温と札幌の気温を表示した折れ線グラフの場合、[↑]もしくは[↓]を何度か押せば、東京の折れ線を選択したり、札幌の折れ線を選択したりできました。この操作は、最初に作成したグラフの見栄えを細かく手直ししたい場合や、系列が指すデータを変更したい場合などに重宝していたのですが、しばらく前から操作方法が変わったようで、できなくなっていました。グラフを選択してから[↑]もしくは[↓]を押すと、グラフ全体が上下に移動してしまい、選択はグラフを指したままです。

では、選択系列を順に変更するにはどうしたらよいかというと、[ctrl]+[↑]もしくは[ctrl]+[↓]で可能です。両手が必要になってしまったので、ちょっと面倒になりましたが、できないよりはマシです。

実はこの操作ができるようになったのがつい最近で、どのくらいの間だったかは定かではないのですが、半年〜一年くらいは、矢印キーでグラフの要素の順次選択ができない時期がありました。[ctrl]+[↑]でもグラフ全体が動いてしまいます。もちろんグラフの要素をクリックすれば選択可能なのですが、いちいちクリックするためにキーボードから手を離すのは大変ですし、さらには、クリックできないほど小さい系列や、他の系列の裏に隠れてしまっている系列をクリックで選択することは不可能。最終的には、グラフ選択→リボンの「グラフツール」から「書式」→左端の「グラフエリア」と書いてあるところのプルダウンメニューを選択したい系列に変更、という非常に手間の掛かる方法で選択しなければなりません。矢印キーを数回押すだけ、一瞬ですんでいた作業が、何度もクリックする作業に変わってしまって、うんざりしていました。おそらく最近のアップデートで[ctrl]+矢印キーの操作が追加されたようです。
posted by jinya at 17:58| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2018年02月06日

Excel PowerPivot にて、テキストソースのデータでのカラム追加方法

Excel(2016)のPowerPivotにて、テキストソースのデータでのカラム追加方法です。

テキストデータ(csv等)をソースにPowerPivotにデータを読み込んでPowerPivotを使っていて、データソースを更新したい場合に、元のテキストファイルを新しいものに置き換えたあと、PowerPivotのデータモデル管理から「ホームタブ:最新の情報に更新:更新」を行うと、データを更新することができます。

ここで、元のテキストファイルに新しいカラムを追加した場合、この更新作業だけでは新しいカラムは反映されないので、次のようにします。

まず、データファイルを置き換えます。同じファイル名(絶対パスで)で置き換えるとパスの張り直しをしなくて済みます。パスを張り直す場合は、「ホームタブ:既存の接続」から当該接続を選んでファイルを選びなおしてください。

次に、PowerPivotの管理画面から置き換えたいテーブルを選択し、「デザインタブ:テーブルのプロパティ」を選択します。すると、データの頭の部分をさっと読み直して、カラムが追加になっている場合はそれが表示されます。しかし、新しく追加になったカラムにはチェックがついていません。そこで、導入したいカラムにチェックを入れて、保存します。

すると、自動的にデータを全部読み直し、新しいカラムが反映されます。

これは例えば、旧ファイルでワークシートを作り込んだあとに新しいカラムを追加したくなった場合などに使えます。既存のリレーションやピボットテーブルを壊すことなく、新しいカラムを導入できます。

posted by jinya at 19:14| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2017年11月30日

【Excel】積み上げグラフを比較する

Excelにて、積み上げ棒グラフを二つ比較したいという状況がありまして、その解をみつけたのでリンクを張ります。

https://hamachan.info/win7/Excel/tumigraph.html

こんな感じのグラフができます。

tsumiagegraph.png


「AAA」や「BBB」のラベルを自動的にセンタリングしてくれるのがいいですね。
posted by jinya at 13:09| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2017年11月19日

研究会「日本のスイーツ文化と経営」聴講メモ

2017/11/18(土)、甲南大学で開催されました「日本のスイーツ文化と経営」を聴講して参りましたので、そのメモです。

本研究会はスイーツ学会と日本フードサービス学会の共催で、後援が甲南大学、辻調理師専門学校、辻製菓専門学校、協賛に株式会社神戸風月堂(但し風はかぜがまえに百、フォントがないので、以下「風」で同字を記します)、UCCフードサービスシステムズ株式会社。甲南大学は阪急電鉄神戸三宮と芦屋の間くらいにあって、関東の私からはあまりなじみがないのですが、阪神間の高級住宅街とのこと。そして、今回の主テーマである「神戸スイーツ」は、まさにこの甲南大学を中心とした高級なエリアにすむ「お金持ち」の需要に支えられた文化である、というのが全体を通して流れている通奏低音でした。

それぞれの講師の方のお話が非常に興味深く、沢山の思いつきがあっていろいろ質問したかったのですが、なかなか時間も少なく終了してしまいました。いつかまた先生方にお目にかかった機会にお伺いしてみたいと思います。(いや、その前に自分で調べてみるのがいいですね。)

さて、以下は質問したかったことを忘れてしまわないように、自分のメモです。ただ、メモだけ書いていてはなんのメモだか忘れてしまいそうなので、ご講演のアウトラインも記しますが、これは私が消化した限りしか書けないので、もしかしたら先生方の仰ったことや意図を正しくくみ取れていないかもしれません。あしからず。


最初のご講演は甲南大学の西村先生。「地域スイーツ店の成長とその意味」という題で、いかにして神戸に「神戸スイーツ」の文化が花開き、またそれが支えられてきたのか。またこれを題材として、製造業、小売業とは異なる「製造小売業」における産業集積のご研究でした。神戸のスイーツは神戸港の開港による欧州文化の流入に、大阪で成功した人達が移り住んだ阪神間の高級住宅街の需要が掛け合わさって生まれたもの。これに明治時代の関税増から、それまで輸入に頼っていた材料等が内製化されるようになり、神戸スイーツの産業集積が成ったとのことでした。

さて、同じような街が関東にもありまして、神戸と横浜との違いは何かというのが、私の疑問です。質問もさせていただきまして、横浜は米国系の文化の流入に対し、神戸は欧州系だったことが大きな違い。また、神戸スイーツには原材料供給元として「増田製粉」「日仏商事」の影響が非常に大きく、その原材料を中心とした産業集積があったとのこと。なるほど、フランスがキーポイントのようです。そうか、「洋菓子」というのはフランスのお菓子のことで、それは米国でも英国でもイタリアでもないんですね。和洋という字面から、洋は和以外の海外すべてを指すと思っていたのですが、そうではなくて、「洋菓子」や、ほぼそれらを指す最近の「スイーツ」という言葉はすべてフランスを指すのか。だから、欧州、特にフランスからの文化の流入口だった神戸がその舞台となったし、「横浜スイーツ」を聞かないのもそのせいかもしれません。

ところで、風月堂の日崎さんのお話では、実は神戸には洋菓子と同じくらい和菓子の集積もあるとのこと。ただ、洋菓子店は繁華街や商店街に所在しているのに対して、和菓子店は住宅街に点在しているようで、その対比も面白かったのですが、ともかく洋菓子、和菓子とも職人さんが多い。また、辻調理師専門学校の尾藤さんのお話によれば、今、洋菓子の世界的なコンテストでは日本人の活躍がめざましく、常にトップに日本人調理師がいらっしゃるとのこと。この二つを合わせると、つまり和菓子も洋菓子も根っこは同じ、職人さんのマインドは似ていて、ただ材料や作り方が違うだけなのではないか。造形を美しいと思う感覚や、繊細な味覚などが日仏で非常に近いために、和菓子、洋菓子の世界(日菓子、仏菓子の世界というべきか)が非常に近く、その両方が存在している街が神戸なのでしょう。逆に言えば、フランスの職人さんが和菓子を作るのも相性がいいのかもしれません。

ところで、神戸という街がそういう供給側、製造側として特殊なことはわかったのですが、需要側ではどうなのかというのが、帰りの新幹線の中で考えていたことです。阪神間のお金持ちの文化、ということならば、東京にもお金持ちは沢山いらっしゃいますし、東京はあまりにも人が多すぎてスイーツが目立たないだけで、もしかしたら神戸と同じくらいかそれ以上、レベルの高い洋菓子が集まっていても不思議ではない。では、人口分布に対する洋菓子需要の構造はどうなっているのか。家計消費に占める洋菓子消費の割合や額と、そのボリューム。もしかしたら、お客さんの側の構造は東京や横浜と神戸でほとんど変わらず、ただそのボリュームだけが違っていたりはしないか。洋菓子需要に対する洋菓子店の数はどうか。もしくは、洋菓子需要額自体に関東と神戸とで違いがあって、需要側でも神戸スイーツというのは特殊なのか。横浜スイーツや銀座スイーツというのは単に産地ブランド化されていないだけで、需給の市場としては神戸に負けていなかったりしないか。東京の方が移動可能距離内にある人口が大きいので(洋菓子、特に生洋菓子は日持ちしないので、移動距離が効く)、いわゆる舌の肥えた人口も到達圏内には多いんじゃないか。

京都や金沢など、和菓子文化の街と定量的比較にも興味があります。上で考察したように、和菓子と洋菓子を同一視してみたら、菓子経済はもしかしたら相似形かもしれません。京都はお茶、とのことでしたが、神戸でそれにあたるのはコーヒーでしょうか?フランスとコーヒーはあまり結びつかないような気がしますが・・・。金沢は単純にその菓子経済圏を小さくしたようなものなのか、それともまた別の特色があるのか。海外との接点という意味では、長崎なども気になるところです。

尾藤さんのお話では、世代間ギャップの話が印象的でした。ミレニアル世代の社会に対する意識が、欧州を中心とした「世界」の方向性と近い。持続可能性の問題であったり、フェアトレード、オーガニックに対する感じ方だったり。団塊〜団塊ジュニアで形成された日本型超個人主義的な世代と、共同体への帰属意識が高いミレニアル世代とのギャップ。世界(=欧州?)の潮流がローカルな持続可能性のある共同体を指向していることに対して、日本の食文化は対応できていないけれど、ミレニアル世代の持つ意識が今後は引っ張っていってくれるのではないか。

おそらく、日本的、村社会的な社会主義から、欧州的、市民社会的な社会主義への変化なのだろうと思います。ミレニアル世代は生まれたときから既に世界がすぐそばにあって、容易に世界中の知識が入り込んでくる環境がありますので、そういう傾向が強いのかも。クールジャパンといって日本の文化を世界に発信しようとしても、官製クールジャパンはなかなかクールじゃない。本当にクールなものは勝手に出て行っています。中高年は口は出さずに黙ってお金だけ出すのがよいのかもしれません。

風月堂の日崎さんのお話は、神戸に根ざした菓子を文化に昇華させてきた神戸の歴史、それと一緒にあった風月堂さんのお話で、当時の写真等もみせて頂きながら。橘街道プロジェクトではスイーツトレインなども走っているんですね。丁度先週、会津若松に行った際、磐越西線で開催されているフルーツ列車「フルーティアふくしま」を見ました。こちらも大人気で、予約が取れなくて大変らしいです。郡山から会津若松までの約一時間をフルーツとともに過ごす、または、スイーツトレインで奈良から三宮までの時間を過ごすのは非常に贅沢な空間ですね。

上島珈琲の梅下さんからは、上島珈琲店の歴史と店内スイーツのお話を頂きました。ワッフルが一推しだそうですよ、皆さん!喫茶店は東京では個店がなくなりつつあって、チェーン店ばかりになってきていますが、そのチェーン店も需要が多い時間帯はなかなか入れません。上島珈琲店さんもいつも混んでいて非常に入りにくい。一方で、喫茶店は客単価が低くて大変とのこと。これは需給バランスがうまくあっていないんじゃないでしょうか。上島珈琲店さんは他のチェーン店と比較して見た目のスマートさもあるし、1.5倍程度の価格付けになっても十分お客さんが入る気がします。

もう一つ、せっかくスイーツの研究会だったので、スイーツ×珈琲店で思ったこと。昔の喫茶店は、近所のケーキ屋さんからケーキを持ってきていましたよね?商店街の洋菓子店が慣れないイートインをやったり、喫茶店が自前のスイーツを提供したりするよりも、近隣の洋菓子店ともっとコラボレーションしたらいいんじゃないかと、素人考えながら思いました。配達が難しいのかな?ケーキを一切れ運ぶのはかなりたいへんなのかも。

最後はスイーツ学会理事長加護野先生のご講演。非常にエキサイティングな講演で、いろんな企業名がダイレクトに出てきてそれはここには書けません(笑)。非常に印象深かったのは、神戸洋菓子のクオリティを維持できている理由には、神戸の職人達の間にある強い関係性、職人ギルドのような強い連帯があるとのこと。そういえば、これと同じことを湯布院でも聞きました。湯布院でも湯布院の景観や体験の質を維持するために、強い横の連携、よく言えば相互に高め合う工夫、悪く言えば相互監視し、はみ出し者を排除する機能があるとのこと。他の地域ブランドでも同じことを聞きます。確かに、ブランドを維持するためにはそれぞれが好き勝手なクオリティでやっていてはダメで、最低ラインに届かない職人や店舗を排除しつつ、相互に監視をし、また向上し合っていく必要があるのはある意味当たり前のことです。

一方で、そういう組織的な動きは、新しいものや新しい考え方を受け入れにくい。特に、尖った若者にはそのようなある種旧態依然とした関係性は停滞に見えるし、反発したくもなるところ。伝統を守りつつ、時代に合わせて生き残っていくにはどうすべきか。これは、神戸スイーツだけでなく、すべての伝統文化に共通する悩みですね。

ということで、非常に興味深く、刺激的な研究会でした。帰り、摂津本山駅では時間がなくてお土産を買えなかったのですが、新大阪駅で風月堂さんのゴーフルをゲット。自宅用と会社用と。普段は滅多に会社には買って帰らないのですが(これには理由がありまして、また機会があれば)、今回はやはり本場神戸風月堂のゴーフルを買って帰らなくては、社内で研究報告しても半分も伝わらないですから。
posted by jinya at 02:10| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2017年11月14日

アイデアは積極的に話しておくといい

アイデアはいろんなところで話しておくのがよいですね。

特別に自分だけが思いつくことなんてそうそうありません。自分が思いつくことは、きっと誰かも思いついている。だから、これは面白いと気がついた話は早めに話しておいたり、ブログなどに書いておくと、もしかしたら自分の周りの誰かが実現してくれるかもしれません。

自分で手を動かす気のあるものはもちろんすぐに手を動かすのですが、そうでもないものだったら、誰かが実現してくれた方がいいですよね。思いついたアイデアは基本的にはオープンにして、自分のみの周りをより便利で豊かにしていくのがよいと思います。

ということで、GCPで実現するセキュアでデータにやさしいプラットホーム、お待ちしてます。誰か作ってください! → 「クラウドでのデータ分析を推奨する理由


そういえば思い出しました。スマホが出始めた頃、2010年頃だと思いますが、「仏像クエスト」っていう位置ゲーを作りたいと思ったことがあります。これは結構いいアイデアだと思って、当時は社内でしか伝えなかったんですよね。周りはあまりピンときていなくて、自分ではなかなか作れず、結局お蔵入りになったことがありました。日本全国の仏像をRPGの対戦相手に見立てて攻略していくゲームなんですけれど、有名な仏像は強くて、みんなで協力しないと倒せないって仕掛け。もちろん位置ゲーなので、その場にいかないと戦闘に参加できない。例えば、上野の西郷さんや鎌倉の大仏さんなんかがボスキャラで、10人ほどがそこに集まって対戦する・・・って、今で言うレイドバトルですよね。(もちろん、ポケモンと仏像では集客力が違いますが。)

当時は自分のなかでかなりヒットしていて、大仏さんにカメラを向けるとゴゴゴッて立ち上がったり、周りの仲間にカメラをかざすと服装や武器が見えたり、というのを想像して熱く語るのですが、仏像っていうモチーフが悪かったのか、それとも言葉ではなかなか伝わらなかったのか、ぽかーんとされて終わりでした(笑)。

あと、ネット越しにホワイトボードの共有をしたいというのも、これは20年ほど前ですが、某家電メーカーさんに要望して一蹴されたことがあります。当時は数学の研究をしていたので、海外にいる研究者と手書きの数式をホワイトボード的ななにかで共有しながら議論をしたかったのですが、今ではskypeの画面共有やGoogle Docsなどの共同編集で達成されています。

もちろん、そういう環境にいれば誰しもが思いつくことなのですけれど、広く伝えることでその実現が少しでも早くなれば、便利が自分に返ってきますね。
posted by jinya at 19:16| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2017年11月03日

パソコン甲子園を観戦中

パソコン甲子園の本戦を見に、会津大学に来ています。

残り1時間を切って、開成高校がトップを爆走中。なじみのある高校があまりないのですが、地元の富山中部高校が6位で健闘しています。あと少し、頑張ってほしい!

pccompe.png
posted by jinya at 16:58| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2017年10月27日

便利なGoogle Filestream。但しMicrosoft Officeとの相性は悪いかもしれない。

Google のエンタープライズ向けサービスであるGSuite、そのアプリケーションの一つであるGoogle Driveがこの秋にリニューアルされまして、Googleファイルストリームになりました。

これが非常に便利で、マシンを問わず自分のGoogleアカウントで繋げば、リモートにあるファイルがあたかもローカルにあるかのように取り扱えるというもの。実際にはキャッシュを持っているのですが、全てのファイルを同期するわけではなく、必要なファイルだけ同期するので、ディスク使用サイズが抑えられ、大きなファイルを放り込んだ後に他のマシンでダウンロードに時間が掛かることもなく、さらにはgoogleアカウントとの接続が切れれば全てのファイルが見られなくなるので、セキュリティ的にも感じがいいです。さらには、Gsuite Business以上であれば「チームドライブ」という仕組みが提供されました。これは、当該ドライブの直下のディレクトリは組織内でそれぞれ閲覧権限を設定することができて、閲覧権限のないディレクトリは見えなくなる。例えば、あるプロジェクトで一つディレクトリを作って、それに関係のあるスタッフだけをアサインすれば、アサインされたスタッフのローカルにだけそのディレクトリが現れます。さらにさらに、全てのファイルはクラウド側に履歴が保存されていて、過去の状態を復元することができたり、ファイルを削除してもクラウド側で数日間はファイルが残っていたり、と、業務用として便利が充実。そしてこれらのファイルの全てを検索できる。これは便利。

と、将来はこういうファイル管理がデファクトになるのだろうと思ってしばらく試用していたのですが、一つだけ調子の悪いことがありましたので、メモしておきます。

問題は、Microsoft Office関連のファイルとの相性が悪いこと。そもそもGoogleではMS Officeに替わるソリューションとして、Google DocsやGoogle Spreadsheetなどを提供していますが、これらは、長年の蓄積とそれなりの価格とで非常に高機能に仕上げられているMS Office製品にはまだまだ及ばない。よって今後しばらくはMS Office製品から離れることができないのですが、これらをGoogleファイルストリームのディレクトリの中で使っていると、しばしば壊れます。いや、大きいファイルを取り扱っていると、かなりの確率で不具合が発生しています。

Officeがバックグラウンドで作成するキャッシュファイルについて、これの同期やロックの問題じゃないかと思っていますが、本当のところまではまだ調べていません。ただ、大きめのExcelやWordファイルを保存しようとしたとき、また、自動保存が動いたときに、ファイルの保存に失敗したり、ファイルが壊れたり、書いていた内容が目の前で消えてしまったりと、かなり深刻な破壊が発生します。Officeの中では正しく保存されたつもりでも実際には保存されていないというケースも発生するようで、自動保存からの復元さえできない状況で失われることもありました。これは致命的です。

小さなファイルの編集でこのような現象が発生しないのは、おそらくキャッシュファイル等を作ったとしても一瞬で消えてなくなるために、filestreamが検知しないから、もしくは、検知しても同期が始まる前に無くなるからではないかと思います。しかし、大きなファイルになると一定時間掛かってキャッシュファイルを作って、それと元のファイルとのいろんなやりとりをするのだろうと思いますが、その間に同期が始まってしまって、一部ファイルはロックされていたり、もしくはファイルだけ存在するのにその中身がなかったりと、そういった問題が発生するのではないかと想像しています。

ということで、大きめのファイルをgoogleファイルストリームの中のディレクトリで直接利用する場合は注意が必要です。安全をとるならば、一旦ローカルディスクにコピーして、編集して、戻すのが現状では最もリスクが小さいと思われます。これではGoogleファイルストリームの便利さがほぼ失われてしまうのですけれど。

おそらく、googleではなく、MicrosoftのソリューションであるOne DriveやSharepoitなどではこういった問題は発生しないのだろうと思います。どちらが便利かはなかなか難しいところです。
posted by jinya at 16:20| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする

2017年09月27日

Googleの誕生日を祝う

今日、2017年9月27日はGoogleの19歳の誕生日だそうです。もう19年も経ったのですね。

Googleの誕生前後は私は大学院生で、大学の計算機室に置いてあるUNIXだったかマッキントッシュだったかを使って「Googleの検索結果が凄い!」と盛り上がった記憶があります。

Google以前、1995年頃はまだ検索サービスというものは無くて、手動で集めて分類されたインデックスサービスがメインでした。海外だとYahoo!、日本だとCSJインデックスをよく使っていた記憶があります。分類されたディレクトリを一つずつ辿っていって、望ましいリンクを見つけて飛ぶ、というもので、辞書で文字を引くのに似ていました。もちろん、インデックスに載っていないサイトにはたどり着けず、有用だけれどメジャーじゃないなURLは人づてに伝達されていました。

日本のインデックスサービスの検索はディレクトリに整理された情報しか出てこなかったのに対し、Yahoo!はディレクトリに整理された情報だけでなく、沢山のインターネット上のウェブサイトを自動的に集めてきて、それを引っかけてくれた点で、画期的だったと思います。おそらくちょうどその頃、Windows95が発売され、パソコンをインターネットに繋ぐことのハードルが一気に下がった時期でしたので、ウェブサイトが飛躍的に増加した時期でもあったと思います。それより以前にはそもそもインターネット上に情報が無く、ほとんどのウェブサイトは大学のサイトだったものが、95年頃から企業がインターネットに顔を出してくるようになりました。

そんなYahoo!の検索は、今までなら絶対にたどり着けなかった情報にたどり着けるようになったという点で素晴らしかったのですが、検索結果はまだまだユーザーフレンドリーではなく、玉石混淆というか、何でもかんでも引っかかって、それが無造作に並べられていたため、目的の情報にたどり着くにはかなりのテクニックを要する状況。そして、96年、97年とインターネットの一般普及に従ってサイト数が爆発的に増加し、Yahoo!での検索が困難になっていきます。

Googleの噂がきこえてきたのはそんな頃だったと思います。スタンフォードになにか凄い検索があるらしい、という触れ込みでURLが伝わってきて、検索をしてみると、まさに「I'm feeling lucky」な検索結果が返ってきたことを憶えています。1997年だったと思っていたのですが、創立は1998年ということで、どこかで記憶が一年飛んでしまったようです。I'm feeling luckyのボタンはその当時からありました。

1998年11月のGoogleトップページを、internet archiveで見ることができます。このトップページのシンプルさも当時画期的でした。Yahoo!もCSJもイエローページも、トップはディレクトリでごちゃごちゃしていたのに対し、Googleは検索窓一つ。全てを検索窓からという思想は既にこのときにあったんですね。

Pagerankの論文も当時触れた記憶があります。最新の数学が一般社会に役立つことはあまりなく、当時は暗号理論に整数論が使われてホットだったくらいでしたが、pagerankの論文は簡単な線形代数でありつつも、目の前でその理論が新しいサービスに結びついて展開されたのは非常にインパクトがありました。

そんな頃からもう19年経ったというのは感慨深いですね。いまや世界中の情報がGoogleにあつまり、Googleを通って世界が動いています。50年前にフレドリック・ブラウンやアイザック・アシモフが預言した世界に一歩ずつ近づいていっている気がしますね。

Answer (Fredric Brown)

The Last Question (Isaac Asimov)

Analyisis of "The Last Question" by Isaac Asimov and "Answer" by Fredric Brown


ちなみに。

フレドリック・ブラウンの「Answer」、実はずっと探し続けていた本でした。おそらく小学生の頃に読んで、そのシーンがすごく印象に残っていたのですが、googleのことを考えるといつもこの話が思い浮かびます。ただ、誰の何という小説だったかさっぱり憶えていませんでした。

科学者は世界中のコンピューターを繋いで、聞いた。
「神はいるか」
「Yes, 今こそ神は存在する」


今回googleのことを書くにあたって、これまで曖昧だった記憶を辿って、そして「Google」の能力を駆使して(!)やっと探し当てました。大人になるまでずっと、このコンピューターってのは2001年宇宙の旅に出てくるHALだと思っていたのですが、大人になってから映画を見直してみてもどこにもそんなシーンが存在しない。星新一のショートショートだったかなとおもって調べても、似ているけれど違う。(「神」という作品があります。)しかし、これを世界中のテキストの中から探し出すことを可能にしたgoogleという仕組みは素晴らしいですね。今は当たり前に存在していますけれど、20年前にはまったくあり得ませんでした。その意味で、確かに「神」は私達の手の中に存在しているのかもしれません。
posted by jinya at 18:54| Comment(0) | 日記 | このブログの読者になる | 更新情報をチェックする