本文首先构造并系统研究了求解密度函数的如下极大惩罚似然估计方法:(此处公式省略)式中α为正则化参数，L为密度函数f的上限,Φ(f)为关于密度函数的惩罚项,而H([a，b])为密度函数所在的函数空间.当Φ(f)=∫ab f′2dx和Φ(f)=∫ab f′′2dx时,证明以上方法在相应Sobolev空间中存在唯一解.并用有限元方法研究当Φ(f)=∫ba f′2dx时以及用B样条方法研究当Φ(f)=∫ab f′′2dx时样本点容量m、剖分h的大小、正则化参数α的选取对这类估计精度的影响.通过详细的数值实验比较了有限元方法与B样条方法等的计算效果.和已有极大惩罚似然估计方法相比,本文的方法在理论上确保解的存在唯一性,数值求解方便,计算效果令人满意.　　其次,在Sobolev空间H1([a，b])上,应用Banach空间优化理论和变分原理推得以下变分问题取极值时的一阶必要条件.（此处公式省略）式中J：H1([a,b])→ R为一适当光滑泛函.特取J(f)=∫abL(F(x),f(x),x)dx,并将结论与相关E-L方程进行了对比验证.同时对文献[16]中定理2的错误进行了指出和更正,并得到了相应离散情形时的结果.