年末のドライブでPodcastの fukabori.fm をいくつか聞きました。 興味深かったものを紹介します。
生成AIの利活用や国産基盤モデルの話
これは、生成AIの利活用や国産基盤モデルの話です。 生成AIに関するいろんな話をあるある話を楽しく聞きました。
色々な面白い話は聞けましたが、中でも印象的だったのは、大規模言語モデルを作る際にエンジニアが二徹することになった話です。
GPUリソースを大量に確保していて、1時間で数百万飛んでいく状況があり、その流れで二徹することになってしまったなど。 確かに1時間で数百万のリソースが消える状況だと二徹するか...など思ってしまったりしました。
音声基盤モデル
コトバテクノロジーの方の音声基盤モデルを作る話です。 私は学生の頃、音楽情報処理領域にいて、その中で音声生成や認識のパイプラインに触れることはあったので、懐かしい想いとふむふむ確かに、の想いがたくさん混ざりながら聞きました。
音声to音声はめちゃ面白いなあと思ってます。特に音声は情報量が多いので、どうやって次元を減らすのかな、とか、トークン化するにしても、どんなトークナイザーを使うかによって結果が色々と変わりそうだなあ、とか思いました。
また、同時通訳の実用化のために動いてるようで今後が色々楽しみです。 全体としてすごく面白いし興味があるので、ソフトウェアエンジニアサイドとして関与できたら嬉しいなあ、と思ったりもしました。ただ、現時点で進んでることがたくさんあるのでなかなか難しいものがありますが。
EM Confの話
EM Confというものが2025年に開催されるようです。
2025/2/27に新宿であるようですが、すでにチケットは完売してるようですね。
Podcastの中では、「なぜ、勉強会じゃなくてカンファレンス？」という話が出てました。カンファレンスは色んな人の交流点になるという話が出ていて、面白いしいいなと思ったりしました。自分の記事ですがこの記事を思い出しました
素晴らしいですね。また、Podcastの中で「カンファレンスは、壮大なふりかえり」という表現があり、この表現めちゃいいなと思いました。私はEMではないですが、近いこともやりますので、色々興味があります。
個人的には、「エンジニアの素養からマネジメントを行うのがエンジニアリングマネージャー」というより「管理統制を目的にせず、開発を目的にしてマネジメントを行うのがエンジニアリングマネージャー」と考えた方がしっくりくるな、と思いつつ聞きました。
トヨタコネクテッドの研究開発
トヨタコネクテッドのソフトウェアの研究開発の話です。やっぱり製品のソフトウェア開発ってこんな感じですよね、と思いながら聞きました。面白い。
できるかどうかわからんので、失敗を覚悟して連続的にチャレンジする流れ。 仮説を立てて、失敗を元に仮説の精度を上げていく流れです。システム開発業界の経験が多い方は、聞いてみると面白いように思います。
あと、信頼があれば任せられる流れや、先行的に技術を使うと仕事が来るのでそこで回収できると予想する流れも事業会社っぽいなと思ったりします。私も似たような考え方をするので興味深く感じました。
AI時代のGPUクラスタ
これまた面白いトークで、LINEヤフーさんのGPUクラスタの話です。RDMAの話が出てきて、その中で別のマシンのCPUを介さずにメモリに直接書き込む話が出てきたのですが、「CPUを介さずに別マシンのメモリに直接書き込む」とか普段やってるプログラミングの完全に外の世界を感じて面白かったです。
RDMAは、 Remote Direct Memory Accessの略かなと思います。
終わり
fukabori.fmさんはいつも技術的に面白くて興味深い話を発信してくれていて助かります。私は定期的な長距離ドライブのタイミングで楽しく聴かせてもらってます。
ではでは。
今年の執筆ノルマはあと3です。何を書こうかあな。
