金融数学是当今数学最重要的应用领域之一，受到国际金融界和应用数学界的高度重视.它通过建立数学模型，利用数学工具(如随机分析、随机控制、偏微分方程、最优化理论)来揭示金融学的本质，加深对金融市场的了解.它的理论不仅丰富和发展了现代金融理论，而且也沟通了各个数学分支与金融学之间的联系，对数学的发展起了推动作用.未定权益的定价和套期保值又是金融数学的一个中心问题，对它的研究有助于更好的揭示金融市场的规律，防范金融风险. 本文主要研究了两类非标准市场(限制信息和附加信息市场)中的平方套期保值问题以及跳扩散模型下的期权定价问题；分析了不同信息市场的完备性、无套利性、等价鞅测度之间的关系；讨论了附加信息市场中的均方有效前沿问题.主要内容如下：·建立了限制信息市场模型，分析了两类不同信息市场的完备性、无套利性以及极小鞅测度之间的关系. ·建立了股票价格的跳扩散模型，在此模型下给出了四种不同情形下的风险最小套期保值策略：A)无信息成本时完全信息下的风险最小策略；B)无信息成本时限制信息下的风险最小策略；C)有信息成本时完全信息下的风险最小策略；D)有信息成本时限制信息下的风险最小策略. ·在附加市场信息是由有限个不可达未定权益来刻画的模型下给出了混合均方套期保值策略，研究了均方有效前沿问题，得到了均方有效解的显式表示. ·在跳扩散模型下，通过测度变换，利用鞅定价方法得到了易于计算的离散最大值期权与重置期权的定价公式.