Positional encodings are a crucial component of transformer models, enabling them to understand the order of tokens in a sequence. Since transformers lack built-in mechanisms to process sequential data, positional encodings inject information about the position of each token, allowing the model to capture the structure of the input. In this blog post, we’ll explore three popular types of positional encodings: **Absolute Positional Encoding**, **Relative Positional Encoding**, and **Rotary Positional Encoding**. We’ll also discuss their differences, sample outputs, and why they matter.
31 Aralık 2024 Salı
12 Aralık 2024 Perşembe
Zaman serisi tahmini ve açıklanabilirlik
Yıllar önce (7 yıl önce!) zaman serisi tahmini hakkında ARIMA ve LSTM ile Zaman Serisi Tahmini başlıklı iki makale yazmıştım, aşağıda bağlantıları paylaşıyorum.
Aradan geçen sürede zaman serileri konusunda literatüre birçok yöntem eklendi. Günümüzde sürekli olarak zamana bağlı veri üretildiği ve verinin en önemli şey olduğu düşünüldüğünde, bu konunun ne kadar popüler olduğunu anlatmaya gerek olmadığını düşünüyorum. Bu yazıda, zaman serisi analizinde güncel yaklaşımları, özellikle de Açıklanabilir Yapay Zeka (Explainable AI *XAI*) çerçevesinde ele almayı amaçlıyorum.
29 Eylül 2022 Perşembe
Using Pytorch C++ API to extract features with CNN
I continue to enhance the existing courses over Udemy. I have prepared a new video to show how to use Pytorch C++ API. In this example, We will save a model for feature extraction in the Python, and then use that model in C++.
By using extracted features, we will classify two target objects.
15 Nisan 2020 Çarşamba
Nvidia CUDA and tensorflow-GPU installation on Ubuntu 16.04
- sudo apt update
- sudo add-apt-repository ppa:graphics-drivers/ppa
- sudo apt update
- sudo apt upgrade
- sudo ubuntu-drivers devices
- sudo apt install nvidia-410