Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Add copy buttons to all
 blocks
(function() {
function addCopyButtons() {
document.querySelectorAll('pre code').forEach(function(codeBlock) {
if (codeBlock.parentElement.hasAttribute('data-copy-added')) return;
codeBlock.parentElement.setAttribute('data-copy-added', 'true');
var btn = document.createElement('button');
btn.textContent = 'Copy';
btn.style.cssText = 'position:absolute;top:4px;right:4px;padding:2px 8px;font-size:11px;background:#4ecdc4;border:none;border-radius:4px;color:#1a1a2e;cursor:pointer;opacity:0.7;transition:opacity 0.2s;';
btn.onmouseover = function() { this.style.opacity = '1'; };
btn.onmouseout = function() { this.style.opacity = '0.7'; };
btn.onclick = function() {
navigator.clipboard.writeText(codeBlock.textContent).then(function() {
btn.textContent = 'Copied!';
setTimeout(function() { btn.textContent = 'Copy'; }, 1500);
});
};
codeBlock.parentElement.style.position = 'relative';
codeBlock.parentElement.appendChild(btn);
});
}
addCopyButtons();
// Re-run on dynamic content
var observer = new MutationObserver(addCopyButtons);
observer.observe(document.body, { childList: true, subtree: true });
})();
}
} catch(__e) { console.warn('[Userscript:Add Copy Buttons to Code Blocks]', __e); }
})();
(function(){
try {
var __m = "github.com";
var __re = new RegExp('^' + "github\\.com" + '
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Force GitHub README to respect dark mode (function() { var style = document.createElement('style'); style.textContent = ' .markdown-body { color-scheme: dark light; } .markdown-body pre { background: #161b22 !important; } .markdown-body code { background: rgba(110, 118, 129, 0.4) !important; } .markdown-body table th, .markdown-body table td { border-color: #30363d !important; } .markdown-body img { background: #0d1117; } .markdown-body blockquote { border-left-color: #8b949e; } .markdown-body hr { border-color: #30363d; } '; document.head.appendChild(style); })(); } } catch(__e) { console.warn('[Userscript:GitHub Dark Mode README Fix]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Highlight search terms from Google/DuckDuckGo/Bing referrer (function() { var ref = document.referrer; var terms = []; if (ref.includes('google.com') || ref.includes('duckduckgo.com') || ref.includes('bing.com')) { var url = new URL(ref); var q = url.searchParams.get('q') || url.searchParams.get('p'); if (q) { terms = q.split(/\s+/).filter(function(t) { return t.length > 2; }); } } if (terms.length === 0) return; var style = document.createElement('style'); style.textContent = '.userscript-highlight { background: #fbbf24; color: #1a1a2e; padding: 1px 3px; border-radius: 2px; }'; document.head.appendChild(style); function highlight(node) { if (node.nodeType === 3) { // text node var text = node.textContent; var found = false; terms.forEach(function(term) { var regex = new RegExp('(' + term.replace(/[.*+?^${}()|[\]\\]/g, '\\') + ')', 'gi'); if (regex.test(text)) { found = true; var frag = document.createDocumentFragment(); var parts = text.split(regex); parts.forEach(function(part, i) { if (i % 2 === 0) { frag.appendChild(document.createTextNode(part)); } else { var span = document.createElement('span'); span.className = 'userscript-highlight'; span.textContent = part; frag.appendChild(span); } }); node.parentNode.replaceChild(frag, node); } }); } else if (node.nodeType === 1 && node.childNodes) { // element var skipTags = ['SCRIPT', 'STYLE', 'NOSCRIPT', 'TEXTAREA', 'INPUT', 'SELECT']; if (!skipTags.includes(node.tagName)) { Array.from(node.childNodes).forEach(highlight); } } } highlight(document.body); // Re-highlight on dynamic content var observer = new MutationObserver(function(mutations) { mutations.forEach(function(m) { m.addedNodes.forEach(function(node) { if (node.nodeType === 1 || node.nodeType === 3) highlight(node); }); }); }); observer.observe(document.body, { childList: true, subtree: true }); })(); } } catch(__e) { console.warn('[Userscript:Highlight Search Terms]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Strip utm_, fbclid, gclid, etc. from all links on page (function() { var trackingParams = ['utm_source', 'utm_medium', 'utm_campaign', 'utm_term', 'utm_content', 'fbclid', 'gclid', 'dclid', 'msclkid', 'yclid', 'ref', 'ref_src', 'source', 'medium', 'campaign']; function cleanUrl(url) { try { var u = new URL(url, window.location.origin); var changed = false; trackingParams.forEach(function(p) { if (u.searchParams.has(p)) { u.searchParams.delete(p); changed = true; } }); return changed ? u.toString() : url; } catch (e) { return url; } } function cleanLinks() { document.querySelectorAll('a[href]').forEach(function(a) { var clean = cleanUrl(a.href); if (clean !== a.href) a.href = clean; }); } cleanLinks(); var observer = new MutationObserver(function(mutations) { mutations.forEach(function(m) { m.addedNodes.forEach(function(node) { if (node.nodeType === 1) { if (node.tagName === 'A') cleanLinks(); node.querySelectorAll('a[href]').forEach(function(a) { var clean = cleanUrl(a.href); if (clean !== a.href) a.href = clean; }); } }); }); }); observer.observe(document.body, { childList: true, subtree: true }); })(); } } catch(__e) { console.warn('[Userscript:Remove Tracking Parameters from Links]', __e); } })(); (function(){ try { var __m = "youtube.com"; var __re = new RegExp('^' + "youtube\\.com" + '
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Auto-enable theater mode on YouTube (function() { function tryTheater() { var btn = document.querySelector('button[aria-label="Theater mode"], ytd-player #player button[title="Theater mode"]'); if (btn && !btn.classList.contains('activated')) { btn.click(); } } // Try immediately tryTheater(); // Try after navigation (SPA) var lastUrl = location.href; setInterval(function() { if (location.href !== lastUrl) { lastUrl = location.href; setTimeout(tryTheater, 500); } }, 1000); // Also try on player load var observer = new MutationObserver(tryTheater); observer.observe(document.body, { childList: true, subtree: true }); })(); } } catch(__e) { console.warn('[Userscript:YouTube Theater Mode Default]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Remove or un-stick sticky/fixed headers that block content (function() { function unstick() { document.querySelectorAll('header, nav, [role="banner"], .header, .navbar, .sticky, .fixed-top, [style*="position: fixed"], [style*="position:sticky"]').forEach(function(el) { if (el.style.position === 'fixed' || el.style.position === 'sticky' || getComputedStyle(el).position === 'fixed' || getComputedStyle(el).position === 'sticky') { el.style.position = 'static'; el.style.top = 'auto'; el.style.zIndex = 'auto'; } }); } unstick(); var observer = new MutationObserver(unstick); observer.observe(document.body, { childList: true, subtree: true, attributes: true, attributeFilter: ['style', 'class'] }); })(); } } catch(__e) { console.warn('[Userscript:Kill Sticky Headers]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Universal Dark Mode - works on any site (function() { var enabled = true; function applyDarkMode() { if (!enabled) return; // Create style element if it doesn't exist var style = document.getElementById('universal-dark-mode-style'); if (!style) { style = document.createElement('style'); style.id = 'universal-dark-mode-style'; document.head.appendChild(style); } // Dark mode CSS - inverts colors but preserves images/video style.textContent = ' /* Invert everything except media */ html { filter: invert(1) hue-rotate(180deg) !important; background: #1a1a2e !important; } /* Restore images, videos, iframes, canvas */ img, video, iframe, canvas, svg, picture, [style*="background-image"] { filter: invert(1) hue-rotate(180deg) !important; } /* Preserve specific elements that should not be inverted */ .no-dark-mode, .no-dark-mode *, [data-theme="light"], [data-theme="light"], .ace_editor, .ace_editor *, .CodeMirror, .CodeMirror *, .monaco-editor, .monaco-editor *, .markdown-body pre, .markdown-body pre *, .highlight, .highlight *, pre code, pre code * { filter: none !important; } /* Fix common UI elements */ .modal, .popup, .dropdown-menu, .tooltip, .popover { filter: invert(1) hue-rotate(180deg) !important; background: #2d2d44 !important; border-color: #444 !important; } /* Scrollbars */ ::-webkit-scrollbar { background: #1a1a2e !important; } ::-webkit-scrollbar-thumb { background: #444 !important; } ::-webkit-scrollbar-thumb:hover { background: #555 !important; } /* Selection */ ::selection { background: #4ecdc4 !important; color: #1a1a2e !important; } ::-moz-selection { background: #4ecdc4 !important; color: #1a1a2e !important; } '; } function removeDarkMode() { var style = document.getElementById('universal-dark-mode-style'); if (style) style.remove(); } // Toggle with Alt+Shift+D document.addEventListener('keydown', function(e) { if (e.altKey && e.shiftKey && e.key === 'D') { e.preventDefault(); enabled = !enabled; if (enabled) { applyDarkMode(); console.log('[Universal Dark Mode] Enabled'); } else { removeDarkMode(); console.log('[Universal Dark Mode] Disabled'); } } }); // Apply on load applyDarkMode(); // Re-apply on dynamic content var observer = new MutationObserver(function(mutations) { if (enabled && !document.getElementById('universal-dark-mode-style')) { applyDarkMode(); } }); observer.observe(document.head, { childList: true }); console.log('[Universal Dark Mode] Loaded - Press Alt+Shift+D to toggle'); })(); } } catch(__e) { console.warn('[Userscript:Universal Dark Mode]', __e); } })(); })();
Skip to content

Latest commit

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

👁️ EyeGlass - Assistente Visual Híbrido (MVP)

Tecnologia Assistiva Inteligente com Arquitetura Híbrida (Local + Cloud)

O EyeGlass é um par de óculos de tecnologia assistiva projetado para oferecer autonomia a pessoas com deficiência visual. Ele captura o ambiente em tempo real, identifica obstáculos e fornece feedback sonoro com instruções de navegação (ex: "Mesa a 3 passos, desvie para a direita").

Este MVP demonstra uma arquitetura robusta que alterna entre processamento local de alta precisão e processamento em nuvem para garantir disponibilidade.


📘 Sumário


🚀 Arquitetura do Sistema

O sistema opera em três camadas interconectadas:

1. 📷 Os Olhos (Edge Device)

  • Hardware: Raspberry Pi Zero 2 W + Câmera Module v2.

  • Função: Captura de vídeo e transmissão sem fio de baixa latência.

  • Tecnologia:

    • Captura:libcamera / rpicam-vid (para suporte a novos OS Raspberry).

    • Streaming: Servidor Flask transmitindo MJPEG via HTTP.

    • Performance: Otimizado para 640x480 a 15 FPS para economizar bateria e banda.

2. 🧠 O Cérebro Central (Cliente/PC)

  • Hardware: Computador Local (Simulando o processamento de um Smartphone/Óculos Inteligente).

  • Função: Orquestração, processamento de áudio e inteligência híbrida.

  • Tecnologia:

    • Linguagem: Python 3.12+.

    • IA Local:YOLOv8 Small (Ultralytics) para detecção de alta precisão offline.

    • Interface de Voz:SpeechRecognition para comandos e gTTS para feedback falado.

    • Modo Híbrido: Decide se processa a imagem localmente ou envia para a AWS com base no comando do usuário.

3. ☁️ A Inteligência em Nuvem (AWS Cloud)

  • Infraestrutura: Amazon EC2 (Instância Ubuntu).

  • Função: API de inferência remota para contingência e processamento leve.

  • Tecnologia:

    • Servidor: Flask API (Python).

    • IA Nuvem:YOLOv4-tiny ou YOLOv3 (Darknet) otimizado para CPU, rodando em ambiente com Swap Memory.

    • Comunicação: Recebe frames via HTTP POST, processa e retorna JSON com coordenadas e classes.


🛠️ Configuração e Instalação

Pré-requisitos

  • Python 3.10+ instalado.

  • Raspberry Pi configurada na mesma rede Wi-Fi.

  • Conta AWS (opcional para o modo nuvem).

📦 1. Configurando a Raspberry Pi (Câmera)

No terminal da Raspberry Pi:

  • Crie um VENV
python -m venv venv
source venv/bin/activate

# Instalar dependências
sudo apt update && sudo apt install python3-flask rpicam-apps
# Clonar/copiar o script da câmera (camera_pi.py)
# Rodar o servidor de streaming
python3 camera_pi.py

A câmera estará disponível em: http://[IP_DA_RASPBERRY]:5000/video_feed

☁️ 2. Configurando o Servidor AWS

Para rodar o YOLO em instâncias gratuitas (t2.micro com 1GB RAM), é obrigatório configurar memória virtual (Swap), caso contrário o processo será morto ("Killed") por falta de memória.

Passo a passo na AWS:

  1. Configuração Inicial:

    • Crie uma instância EC2 (Ubuntu 22.04 ou superior).

    • Libere a porta 5000 no Security Group.

    • Conecte via SSH (ssh -i chave.pem ubuntu@IP_PUBLICO).

  2. ⚡ Criar Swap Memory (Crucial para não travar): Rode estes comandos um por um no terminal da AWS:

    # Cria um arquivo de 2GB para memória virtual
    sudo fallocate -l 2G /swapfile
    # Ajusta permissões de segurança
    sudo chmod 600 /swapfile
    # Formata como swap
    sudo mkswap /swapfile
    # Ativa o swap
    sudo swapon /swapfile
    # Verifica se funcionou (deve aparecer 2.0G na coluna Swap)
    free -h
    
  3. Crie um VENV

    python -m venv venv
    source venv/bin/activate
    
  4. Instalar Dependências:

    sudo apt update && sudo apt install libgl1
    pip install flask opencv-python-headless numpy
    
  5. Baixar a IA (YOLO):

    • Para t2.micro recomendamos:
      • yolov4-tiny para respostas mais rapidas
      • yolov3 para respostas mais precisas
    • codigo abaixo segue um exemplo com yolov3
    wget https://pjreddie.com/media/files/yolov3.weights
    wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
    
  6. Iniciar o Servidor:

    python3 server_ia.py
    

💻 3. Configurando o Cliente Local (PC)

No seu computador:

  1. Clone este repositório e crie um venv para projeto em sua máquina.
python -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
  1. Instale as dependências listadas:

    pip install -r requirements.txt
    
  2. Edite o arquivo eyeglass.py com os IPs corretos:

    Python

    AWS_IP = "54.233.XX.XX" # IP Público da sua EC2
    RASP_IP = "192.168.0.XX" # IP Local da Raspberry
    
  3. Execute o sistema:

    python eyeglass.py
    

🎮 Como Usar

O sistema é controlado totalmente por voz para acessibilidade.

  1. Iniciar: Ao abrir, o sistema toca um áudio de boas-vindas.

  2. Ativar: Diga "Ativar" ou "Iniciar" para acordar o assistente.

  3. Comandos de Visão:

    • 🗣️ "O que tem na minha frente?"

    • 🗣️ "O que eu vejo?"

    • O sistema captura a imagem, analisa e responde: "Cadeira a 2 passos, à sua esquerda. Vire levemente à direita."

  4. Troca de Modos (Híbrido):

    • 🗣️ "Modo Nuvem" / "Modo AWS" -> Passa a processar tudo na EC2 (ideal para economizar bateria local).

    • 🗣️ "Modo Local" / "Modo PC" -> Volta a usar o YOLOv8 no computador (maior precisão).

  5. Encerrar: Diga "Sair" ou "Desligar".


📈 Escalabilidade e Futuro

Este MVP prova o conceito. Para transformar o EyeGlass em um produto comercial escalável para milhares de usuários, a arquitetura evoluirá para:

1. Alta Disponibilidade (AWS)

  • Problema Atual: Uma única EC2 pode cair ou ficar lenta com muitos usuários.

  • Solução Futura:

    • Docker & ECS: Empacotar o código da IA em containers Docker.

    • Auto Scaling: Usar AWS ECS (Fargate) para subir novos containers automaticamente quando a demanda aumentar.

    • Load Balancer (ALB): Distribuir as requisições dos óculos entre vários servidores.

3. App Mobile

  • Substituir o código Python do PC por um Aplicativo Android/iOS que se comunica via Bluetooth/wifi com os óculos (Raspberry) e gerencia a conexão com a nuvem AWS.

📂 Estrutura do Repositório

/
├── eyeglass.py # [PC] Código Principal (Cliente/Cérebro Híbrido)
├── server_ia.py # [AWS] API Server (Flask + YOLOv3)
├── camera_pi.py # [Raspberry] Streamer de Vídeo
├── requirements.txt # Dependências do projeto
├── README.md # Documentação
└── audios # Pasta com audios personalizados para voz

🤝 Autor

Desenvolvido por EYEGEN. Projeto de MVP focado em acessibilidade, visão computacional e arquitetura de nuvem.

About

Repositório dedicado ao desenvolvimento do Hardware da EyeGen, o EyeGlass. Utilizamos como principais ferramentas: Raspeberry PI zero 2w, Raspeberry cam, Python(Flask, OpenCV, TTS), AWS

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages