RWKV是一种无需注意力机制的循环神经网络，因此速度更快且更省显存。它还支持 GPT 模式并行训练。还好，名字不再是啥驼啊马的，改成鸟了。看来这帮搞大模型的也就这点恶趣味。 目前它已经在Hugging Face上开源，还制作了免费的API接口。我试着调用了下，效果还是不错的。 下载与资源 huggingface | 官网 | 论文 | github | 电脑使用安装包 | 手机使用安装包 | RWKV的Chat模型

민간 항공은 세계 2차 대전이 끝난 이 후 1960년대에 들어서서 미국 국내 항공운송업계의 혹독한 구조조정을 거치면서 국제항공승객의 급격한 증가를 가져왔다. 위 그래프에서 볼 수 있듯이 이 국제 항공승객 증가 패턴은 단순하면서도 랜덤한 regression 유형이 아니라 특정한 패턴을 유지하면서 지속적으로 증가하는 경향을 나타내는데 시계열 방식에 의한 예측만이

Despite a decade of use and a twelve-figure market cap, it's still not clear whether cryptocurrencies like bitcoin are here to stay or will cross over into mainstream use. Some experts, like Nobel

The cryptocurrency maintained its bullish momentum on Thursday, with most major currencies trading up by more than 3 percent on the day. Here’s a look at some of the headlines that were moving the

目前深度学习和神经网络算法最典型的有两个应用实例，一个是图像识别，一个是语音识别。上一篇文章讲到图形识别的卷积神经网络（CNN）就广泛应用在了图像别方面，而这篇文章就来讲另一个广泛应用于语音识别的算法循环神经网络（RNN）。 如果说CNN通过滤波器识别出图片中空间像素的关系，那么RNN就能够在时间序列的数据中找到规律，从而预测未来。所以RNN与CNN最大的不同就是，

Likhar moto kisu nei

 [저 세상 정리]는 내 맘대로 이해한 강의 내용을 내 맘대로 정리하는 post이므로 매우 부정확할 수 있음    MIT 6.S191  Introduction to Deep Learning #2 두 번째 강의 내용은 sequential data를 처리하는데 적합한 network를 소개한다. 우선 sequential data의