\documentclass[letter,10pt]{article}
%\usepackage[activeacute,spanish]{babel}
\usepackage[utf8]{inputenc}
\usepackage[spanish]{babel}
\usepackage{amsmath,amsfonts,graphicx,pstricks,multicol,graphics}%color
\usepackage{amssymb}
%\usepackage[latin1]{inputenc}
\usepackage{enumerate}
\usepackage{fancyhdr}
\usepackage{fancybox}
\pagestyle{fancy} \textheight=24.8cm \textwidth=18.0cm
\topmargin=-3.0cm \oddsidemargin=-1cm
\parindent=0mm
%\begin{document}
%\fancyfoot{}\fancyfoot[L]{\rule{18.5cm}{0.01cm} \\
%\hspace{9.5cm}\thepage}
%Escudo y t�tulo
%\parbox{3cm}{\includegraphics[width=3cm, height=3cm]{escudo.eps}}
%\ovalbox{\ovalbox{\parbox{15cm}{\begin{large} \begin{center}
%\textbf{Universidad del Cauca}\\
%\vspace{0.1cm}
%\textbf{Facultad de Ciencias Naturales, Exactas y de la Educaci\'{o}n}\\
%\vspace{0.1cm}
%\textbf{Departamento de Matem\'{a}ticas}
%\end{center} \end{large}}}}\\
%identificaci�n
%\ovalbox{\ovalbox{
%\mbox{\parbox{0.5cm}{\hspace{0.4cm}}\parbox{9.3cm}{\vspace{0.2cm}
%\textbf{Asignatura:} Modelos de Lenguaje (Mat662)\\
%\textbf{Requisitos:} \'{A}lgebra Lineal(Mat221), Programaci\'{o}n B\'{a}sica(Mat261)\vspace{0.2cm}}}
%\mbox{\parbox{8.1cm}{ \vspace{0.2cm}\textbf{Cr\'{e}ditos:} 4 por semestre\\
%\textbf{Intensidad horaria semanal:} 4 horas te\'{o}ricas y \\ 2 horas pr\'{a}cticas\vspace{0.2cm}}}}\\
%\\
%\textbf{ Descripci\'{o}n del curso} \\
\begin{document}
\fancyfoot{}\fancyfoot[L]{\rule{18.0cm}{0.01cm} \\
\hspace{9.5cm}\thepage}

%Escudo y tìtulo
\parbox{3cm}{\includegraphics[width=3cm, height=3cm]{escudo.eps}}
\ovalbox{\ovalbox{\parbox{15cm}{\begin{large}
\begin{center}
\textbf{Facultad de Ciencias Naturales, Exactas y de la Educaci\'{o}n}\\
\vspace{0.5cm} \textbf{Departamento de Matem\'{a}ticas}
\end{center} \end{large}}}}\\

%identificación
\ovalbox{\ovalbox{\mbox{\parbox{0.5cm}{\hspace{0.4cm}}\parbox{9.3cm}{\vspace{0.2cm}
 \textbf{Tipo de Actividad:} Asignatura\\
 \textbf{Nombre:} Modelos de Lenguaje (Mat662)\\
 \textbf{Requisitos:} (Mat221),(Mat261)}}
\mbox{\parbox{8.2cm}{\textbf{Cr\'{e}ditos:} 4 por semestre\\
\textbf{Intensidad Horaria:} 4 horas te\'{o}ricas\\  \hspace{3cm} y 2 horas pr\'{a}cticas semanales}}}}\\


\textbf{Descripci\'{o}n del curso}\\
\\
La construcci\'{o}n de modelos del lenguaje (ML) es una tarea central en los sistemas de reconocimiento
autom\'{a}tico del habla, procesamiento del lenguaje natural y otras aplicaciones. 
Su prop\'{o}sito es restringir y guiar la b\'{u}squeda de secuencias de unidades lingü\'{i}sticas a trav\'{e}s
 de un conjunto de hip\'{o}tesis y contribuir a la determinaci\'{o}n de la transcripci\'{o}n final. Un modelo del
 lenguaje no es otra cosa que una descripci\'{o}n del lenguaje. En su forma m\'{a}s simple puede ser una
 representaci\'{o}n de las palabras que pertenecen al  lenguaje, en los modelos mas complejos tambi\'{e}n
 se trata de describir la estructura y significado de las frases pertenecientes al lenguaje.

Los modelos estoc\'{a}sticos han ganado considerable aceptaci\'{o}n en los \'{u}ltimos a\~{n}os debido a 
la eficiencia demostrada en \'{a}reas como reconocimiento autom\'{a}tico del habla, traducci\'{o}n
 autom\'{a}tica, desambiguaci\'{o}n de fronteras, etiquetado autom\'{a}tico con clases, correcci\'{o}n 
ortogr\'{a}fica y en otras aplicaciones en las que se procesan elementos del
lenguaje en situaciones de conocimiento incompleto.

En t\'{e}rminos simples un modelo de lenguaje estoc\'{a}stico es una distribuci\'{o}n
 de probabilidades que permite modelar la probabilidad de que una frase sea dicha en un lenguaje espec\'{i}fico.
\\
\\
\textbf{Objetivo General}
\begin{itemize}
\item Dar a conocer las diferentes propuestas de formulación de modelos matemáticos que representan la distribuci\'{o}n probabil\'{i}stica de las frases en un lenguaje dado.\\
\end{itemize}
\textbf{Objetivos Espec\'{i}ficos}
\begin{itemize}
\item Adquirir los conceptos b\'{a}sicos del modelado del lenguaje.
\item Conocer las diferentes propuestas de modelos del lenguaje.
\item Implementar computacionalmente las t\'{e}cnicas para el entrenamiento y aplicaci\'{o}n de los modelos del lenguaje.
\item Desarrollar aplicaciones computacionales en las que se utilicen los modelos del lenguaje.
\end{itemize}

\textbf{Contenido}

\begin{enumerate}[{Cap\'{i}tulo} i]
\item \textbf{Introducci\'{o}n}
    \begin{enumerate}[1.]
        \item Qu'{e} es un modelo de lenguaje?
\item Diferentes enfoques para la construcci\'{o}n de modelos del lenguaje.
\item modelos de lenguaje probabil\'{i}sticos
\item Planteamiento del modelo desde la perspectiva de la teor\'{i}a de la informaci\'{o}n.
\item Modelos condicionales.
\item Modelos Mixtos.
    \end{enumerate}
\item \textbf{El modelo de n-gramas}
\begin{enumerate}[1.]
        \item Definici\'{o}n del modelo de n-gramas
\item Modelo de bigramas y trigramas
\item Estimaci\'{o}n de probabilidades para el modelo de bigramas y trigramas
\item Suavizado en el modelo de n-gramas
\item Interpolaci\'{o}n para el modelo de trigramas.
\item Ventajas y desventajas del modelo de n-gramas.
\item Diferentes funciones discriminante.
    \end{enumerate}
\item \textbf{Modelos basados en gram\'{a}ticas incontextuales}
\begin{enumerate}[1.]
       \item Introducci\'{o}n.
\item Gram\'{a}ticas formales.
\item Gram\'{a}ticas libres de contexto.
\item Aprendizaje de las reglas en una gram\'{a}tica libre de contexto.
\item Gram\'{a}ticas probabil\'{i}sticas.
\item Estimaci\'{o}n de las probabilidades en las gram\'{a}ticas libres de contexto.
\item Las gram\'{a}ticas como modelo de lenguaje.
\item Otras alternativas basadas en gram\'{a}ticas.
    \end{enumerate}
\item \textbf{Modelos basados en gr\'{a}fos}
\begin{enumerate}[1.]
        \item Modelos basados en \'{a}rboles de decisi\'{o}n.
\item Modelo VNSA.
\item Modelos basados en analizadores l\'{e}xicos.
\item Otros modelos de \'{a}rbol.
\end{enumerate}
\item \textbf{Modelo de m\'{a}xima entrop\'{i}a}
\begin{enumerate}[1.]
\item Introducci\'{o}n.
\item El principio de m\'{a}xima entrop\'{i}a.
\item Modelo del lenguaje basado en m\'{a}xima entrop\'{i}a.
\item Estimaci\'{o}n de los par\'{a}metros en el modelo de m\'{a}xima entrop\'{i}a.
\item El algoritmo "Generalized Iterative Scaling".
\item El algoritmo "Improved Iterative Scaling"
\item Entrenamiento y aplicaci\'{o}n de los modelos de M\'{a}xima entrop\'{i}a.
\end{enumerate}

\item \textbf{Modelo de m\'{i}nima divergencia}
\begin{enumerate}[1.]
       \item La divergencia de Kullback.
\item El modelo de lenguaje de m\'{i}nima divergencia.
\item Definici\'{o}n de las caracter\'{i}sticas en el modelo de m\'{i}nima divergencia.
\item Estimaci\'{o}n de los par\'{a}metros en el modelo de m\'{i}nima divergencia
\item Aplicaciones del modelo de m\'{i}nima divergencia.
\end{enumerate}

\item \textbf{Modelos basados en an\'{a}lisis sem\'{a}ntico latente (LSA)}
\begin{enumerate}[1.]
 \item Definici\'{o}n de LSA.
\item Aspectos generales del modelo
\item M\'{e}tricas en el modelo LSA.
\item Espacios vectoriales y el modelo LSA.
\item Estimaci\'{o}n de los par\'{a}metros en los modelos LSA.
\item Aplicaci\'{o}n del modelo.
\end{enumerate}

\end{enumerate}
\textbf{Bibliograf\'{i}a}
\begin{itemize}
  \item A. Borthwick,Survey Paper on Statistical Language Modeling,New York University,1997
  \item S. Chen and J. Goodman,An Empirical Study of Smoothing Techniques for Language Modeling,Center for Research in Computing Technology, Harvard University,
TR-10-98,1998.
  \item F. Amaya,Modelos del lenguaje mixtos,Departamento de Sistemas Inform\'{a}ticos y Computaci\'{o}n, {U}niversidad Polit\'{e}cnica de Valencia,DSIC-II74799,2000.
  \item R. Rosenfeld,Adaptive statistical language modeling: a Maximum Entropy aproach,Carnegie Mellon University,CMU-CS-94-138,1994.
  \item J.R. Bellegarda,A latent semantic analysis framework for large-span language modeling,EUROSPEECH,v3,p1451-1454,1997.
  \item J. R. Bellegarda,A Multispan Language Modeling Framework for Large Vocabulary Speech Recognition,IEEE Transactions on Speech and Audio Processing,
  v6(5),p456-467,1998.
\end{itemize}
\end{document}
